URL ayrıştırıcı
Bir URL’yi protokol, ana makine, yol ve sorguya ayırın.
Seçtiğiniz yolları engelleyen ve site haritanıza işaret eden bir robots.txt oluşturun.
Sitenizin kök dizininde robots.txt olarak kaydedin; böylece https://siteniz.com/robots.txt adresinde açılır. Kurallara uyan tarayıcılardan uzak durmalarını ister ama özel sayfaları korumaz.
Dosyalarınız cihazınızda kalır
Her şey tarayıcınızda çalışır. Yazdığınız hiçbir şey sunucuya gönderilmez.
Hayır. Kurallara uyan tarayıcıların sayfayı çekmesini durdurur, ancak engellenen bir URL, diğer siteler ona bağlantı verirse sonuçlarda yine de görünebilir. Bir sayfayı aramanın dışında tutmak için noindex etiketi kullanın ve taranmasına izin verin.
Hayır. Dosya herkese açıktır ve kötü botlar onu yok sayar. İçine asla gizli yolları yazmayın ve özel alanları bir girişle koruyun.
Alan adının kökünde: https://example.com/robots.txt. Her alt alan adının kendi dosyası gerekir.
Bu tarayıcılardan gelecekte sayfalarınızı toplamamalarını ister. Daha önce toplananı kaldırmaz ve dosyayı yok sayan botlar durdurulmaz.
Google’ın sayfalarınızı işlemesi için bunlara ihtiyacı var. Betiklerinizi ve stillerinizi tutan klasörlere izin vermeyin.