ToolsMaxxing

Robots.txt oluşturucu

Seçtiğiniz yolları engelleyen ve site haritanıza işaret eden bir robots.txt oluşturun.

Bing ve bazıları buna uyar. Google yok sayar.
Belirli yapay zeka tarayıcılarını engelle

Sitenizin kök dizininde robots.txt olarak kaydedin; böylece https://siteniz.com/robots.txt adresinde açılır. Kurallara uyan tarayıcılardan uzak durmalarını ister ama özel sayfaları korumaz.

Dosyalarınız cihazınızda kalır

Nasıl çalışır

  1. 1Taramaya varsayılan olarak izin verilip verilmeyeceğini veya tüm sitenin engellenip engellenmeyeceğini seçin.
  2. 2İzin verilmeyecek yolları, her satıra bir tane ve her biri eğik çizgiyle başlayacak şekilde listeleyin.
  3. 3Site haritası adresinizi ekleyin ve engellemek istediğiniz tarayıcıları işaretleyin.
  4. 4robots.txt dosyasını indirin ve sitenizin köküne yükleyin.

Seçenekler ne işe yarar

İzin verilmeyen yollar
Tarayıcılardan bu yolları çekmemeleri istenir. Eğik çizgiyle biten bir yol, klasörün içindeki her şeyi kapsar.
İzin istisnaları
Bir tarayıcının, izin verilmeyen bir klasörün içindeki bir yolu çekmesine izin verir.
Tarama gecikmesi
İstekler arasındaki saniye. Bazı tarayıcılar buna uyar, Google yok sayar.
Yapay zeka tarayıcıları
Adı geçen bot için bir blok ekler. Yalnızca robots.txt’ye uyan botlar için çalışır.

Gizlilik

Her şey tarayıcınızda çalışır. Yazdığınız hiçbir şey sunucuya gönderilmez.

Sık sorulan sorular

robots.txt bir sayfayı aramadan gizler mi?

Hayır. Kurallara uyan tarayıcıların sayfayı çekmesini durdurur, ancak engellenen bir URL, diğer siteler ona bağlantı verirse sonuçlarda yine de görünebilir. Bir sayfayı aramanın dışında tutmak için noindex etiketi kullanın ve taranmasına izin verin.

robots.txt bir güvenlik önlemi mi?

Hayır. Dosya herkese açıktır ve kötü botlar onu yok sayar. İçine asla gizli yolları yazmayın ve özel alanları bir girişle koruyun.

Dosya nereye konuyor?

Alan adının kökünde: https://example.com/robots.txt. Her alt alan adının kendi dosyası gerekir.

Yapay zeka tarayıcılarını engellemek içeriğimi yapay zeka araçlarından kaldırır mı?

Bu tarayıcılardan gelecekte sayfalarınızı toplamamalarını ister. Daha önce toplananı kaldırmaz ve dosyayı yok sayan botlar durdurulmaz.

CSS veya JavaScript’i yanlışlıkla engellersem ne olur?

Google’ın sayfalarınızı işlemesi için bunlara ihtiyacı var. Betiklerinizi ve stillerinizi tutan klasörlere izin vermeyin.

İlgili araçlar