Trình tạo Robots.txt
kiểm soát những gì trình thu thập tải về
Tạo tệp robots.txt mà không cần nhớ cú pháp: bắt đầu từ một mẫu có sẵn, thêm các thư mục muốn chặn trình thu thập, liệt kê sitemap và quyết định cách xử lý trình thu thập AI.
- Miễn phí
- Không cần đăng ký
- Mẫu có sẵn để bắt đầu
- Dòng sitemap
- Tùy chọn chặn trình thu thập AI
Bắt đầu từ
Chạy hoàn toàn trong trình duyệt của bạn — không có gì bạn nhập được gửi cho chúng tôi.
Cách hoạt động
Cách dùng Trình tạo Robots.txt
-
Chọn điểm bắt đầu
Cho phép tất cả, chặn tất cả, hoặc bắt đầu từ cấu hình website thông thường.
-
Thêm quy tắc
Liệt kê các đường dẫn cần disallow, các ngoại lệ cần allow và URL sitemap của bạn.
-
Tải tệp lên
Tải robots.txt về và đặt ở thư mục gốc của tên miền, ví dụ example.com/robots.txt.
robots.txt đặt ở đâu?
Ở thư mục gốc của máy chủ mà nó áp dụng: https://example.com/robots.txt. Mỗi tên miền phụ cần tệp riêng, và trình thu thập bỏ qua các tệp robots.txt trong thư mục con.
Disallow có giữ trang khỏi Google không?
Không. Disallow ngăn thu thập dữ liệu, không ngăn lập chỉ mục: một URL bị chặn vẫn có thể xuất hiện trong kết quả nếu trang khác liên kết đến nó. Để giữ một trang khỏi kết quả tìm kiếm, hãy cho phép thu thập và thêm thẻ robots meta noindex.
robots.txt có chặn được trình thu thập AI không?
Hầu hết các công ty AI cho biết trình thu thập của họ tuân theo robots.txt, nên bạn có thể disallow các user agent như GPTBot, ClaudeBot, CCBot, Google-Extended và PerplexityBot. Đây là một yêu cầu, không phải biện pháp cưỡng chế: trình thu thập phớt lờ tệp này sẽ không bị chặn.
Thêm công cụ miễn phí
Các công cụ khác bạn có thể cần
Chia sẻ bằng liên kết rút gọn
Đặt một liên kết rút gọn Letlink cho trang bạn vừa kiểm tra và xem ai nhấp vào, họ đến từ đâu và dùng thiết bị gì.
Cập nhật lần cuối bởi đội ngũ Letlink.