Robots.txt جنریٹر
طے کریں کہ کرالرز کیا فیچ کریں
سنٹیکس یاد کیے بغیر robots.txt فائل بنائیں: کسی پری سیٹ سے شروع کریں، وہ فولڈرز شامل کریں جن سے کرالرز کو دور رکھنا ہے، اپنا سائٹ میپ لکھیں اور طے کریں کہ AI کرالرز کے ساتھ کیا کرنا ہے۔
- مفت
- کوئی سائن اپ نہیں
- شروع کرنے کے لیے پری سیٹس
- سائٹ میپ لائنیں
- اختیاری AI کرالر بلاکنگ
یہاں سے شروع کریں
مکمل طور پر آپ کے براؤزر میں چلتا ہے — آپ جو کچھ درج کرتے ہیں وہ ہمیں نہیں بھیجا جاتا۔
یہ کیسے کام کرتا ہے
Robots.txt جنریٹر کیسے استعمال کریں
-
نقطۂ آغاز چنیں
سب کچھ اجازت دیں، سب کچھ بلاک کریں، یا ایک عام ویب سائٹ سیٹ اپ سے شروع کریں۔
-
اپنے قواعد شامل کریں
disallow کرنے والے راستے، allow کرنے والی استثنائیں اور اپنا سائٹ میپ URL لکھیں۔
-
فائل اپ لوڈ کریں
robots.txt ڈاؤن لوڈ کریں اور اسے اپنے ڈومین کے روٹ پر رکھیں، مثلاً example.com/robots.txt۔
robots.txt کہاں رکھی جاتی ہے؟
جس ہوسٹ پر وہ لاگو ہوتی ہے اس کے روٹ پر: https://example.com/robots.txt۔ ہر سب ڈومین کو اپنی الگ فائل چاہیے، اور کرالرز سب فولڈرز میں رکھی robots.txt فائلوں کو نظر انداز کرتے ہیں۔
کیا Disallow کسی صفحے کو Google سے باہر رکھتا ہے؟
نہیں۔ Disallow کرالنگ روکتا ہے، انڈیکسنگ نہیں: اگر دوسری سائٹیں کسی بلاک شدہ URL سے لنک کریں تو وہ پھر بھی نتائج میں آ سکتا ہے۔ کسی صفحے کو سرچ سے باہر رکھنے کے لیے کرالنگ کی اجازت دیں اور noindex robots میٹا ٹیگ شامل کریں۔
کیا robots.txt AI کرالرز کو بلاک کر سکتی ہے؟
زیادہ تر AI کمپنیاں کہتی ہیں کہ ان کے کرالرز robots.txt کی پابندی کرتے ہیں، اس لیے آپ GPTBot، ClaudeBot، CCBot، Google-Extended اور PerplexityBot جیسے یوزر ایجنٹس کو disallow کر سکتے ہیں۔ یہ ایک درخواست ہے، زبردستی نہیں: جو کرالرز فائل کو نظر انداز کرتے ہیں انہیں یہ نہیں روکتی۔
مزید مفت ٹولز
آپ کے کام کے دوسرے ٹولز
اسے مختصر لنک کے ساتھ شیئر کریں
جس صفحے کو آپ نے ابھی جانچا، اس پر Letlink کا مختصر لنک لگائیں اور دیکھیں کہ کون اس پر کلک کرتا ہے، وہ کہاں سے آتے ہیں اور کس ڈیوائس پر۔
آخری تازہ کاری Letlink ٹیم کی جانب سے۔