Robots.txt உருவாக்கி
crawler-கள் எதைப் பெறுகின்றன என்பதைக் கட்டுப்படுத்துங்கள்
தொடரியலை மனப்பாடம் செய்யாமலேயே robots.txt கோப்பை உருவாக்குங்கள்: ஒரு முன்னமைவிலிருந்து தொடங்கி, crawler-களைத் தடுக்க வேண்டிய கோப்புறைகளைச் சேர்த்து, உங்கள் sitemap-ஐப் பட்டியலிட்டு, AI crawler-களை என்ன செய்வது என முடிவு செய்யுங்கள்.
- Free
- பதிவு தேவையில்லை
- தொடங்குவதற்கான முன்னமைவுகள்
- Sitemap வரிகள்
- விருப்பமான AI crawler தடுப்பு
இதிலிருந்து தொடங்கு
முழுவதும் உங்கள் உலாவியிலேயே இயங்குகிறது — நீங்கள் உள்ளிடும் எதுவும் எங்களுக்கு அனுப்பப்படுவதில்லை.
இது எப்படிச் செயல்படுகிறது
Robots.txt உருவாக்கி-ஐ எப்படிப் பயன்படுத்துவது
-
தொடக்கப் புள்ளியைத் தேர்ந்தெடுங்கள்
அனைத்தையும் அனுமதியுங்கள், அனைத்தையும் தடுங்கள், அல்லது வழக்கமான இணையதள அமைப்பிலிருந்து தொடங்குங்கள்.
-
உங்கள் விதிகளைச் சேருங்கள்
disallow செய்ய வேண்டிய பாதைகள், allow செய்ய வேண்டிய விதிவிலக்குகள், உங்கள் sitemap URL ஆகியவற்றைப் பட்டியலிடுங்கள்.
-
கோப்பைப் பதிவேற்றுங்கள்
robots.txt-ஐப் பதிவிறக்கி உங்கள் டொமைனின் root-இல் வையுங்கள், எ.கா. example.com/robots.txt.
robots.txt எங்கே இருக்க வேண்டும்?
அது பொருந்தும் host-இன் root-இல்: https://example.com/robots.txt. ஒவ்வொரு subdomain-க்கும் தனிக் கோப்பு தேவை; துணைக் கோப்புறைகளில் உள்ள robots.txt கோப்புகளை crawler-கள் புறக்கணிக்கின்றன.
Disallow ஒரு பக்கத்தை Google-இலிருந்து விலக்கி வைக்குமா?
இல்லை. Disallow crawl செய்வதை நிறுத்துகிறது, அட்டவணைப்படுத்தலை அல்ல: பிற தளங்கள் இணைப்பு கொடுத்தால், தடுக்கப்பட்ட URL இன்னும் முடிவுகளில் தோன்றலாம். ஒரு பக்கத்தைத் தேடலிலிருந்து விலக்க, crawl செய்ய அனுமதித்து noindex robots meta குறிச்சொல்லைச் சேருங்கள்.
robots.txt AI crawler-களைத் தடுக்குமா?
பெரும்பாலான AI நிறுவனங்கள் தங்கள் crawler-கள் robots.txt-க்குக் கீழ்ப்படிவதாகச் சொல்கின்றன, எனவே GPTBot, ClaudeBot, CCBot, Google-Extended, PerplexityBot போன்ற user agent-களை disallow செய்யலாம். இது ஒரு வேண்டுகோள், கட்டாய அமலாக்கம் அல்ல: கோப்பைப் புறக்கணிக்கும் crawler-கள் அதனால் நிறுத்தப்படுவதில்லை.
மேலும் இலவசக் கருவிகள்
உங்களுக்குத் தேவைப்படக்கூடிய பிற கருவிகள்
சுருக்க இணைப்புடன் பகிருங்கள்
நீங்கள் இப்போது சரிபார்த்த பக்கத்தில் ஒரு Letlink சுருக்க இணைப்பை வைத்து, யார் கிளிக் செய்கிறார்கள், எங்கிருந்து வருகிறார்கள், எந்தச் சாதனத்தில் என்பதைப் பாருங்கள்.
கடைசியாகப் புதுப்பிக்கப்பட்டது Letlink குழுவால்.