AI arama botu ile eğitim botunu ayırın
OpenAI örneği
OAI-SearchBot arama amaçlı, GPTBot ise model geliştirmede kullanılabilecek içerik taramasıyla ilişkili ayrı kontrollerdir. ChatGPT-User kullanıcı başlatmalı erişim için farklı bir kategoridedir. Güncel davranış ve IP bilgilerini sağlayıcının belgesinden kontrol edin.
Altyapı engelleri
Robots izinli olsa bile CDN challenge, erişim kuralı veya rate limit sayfayı engelleyebilir. Salt User-Agent adı güvenilir kimlik kanıtı değildir; gerektiğinde resmî bot doğrulama yöntemini uygulayın.
İçeriği değiştirmeyin
Bot için gizli tavsiye veya farklı makale sunmayın. Kullanıcıyla botun aynı kaynaklı içeriğe erişmesi tutarlılığı korur. Tarama loglarını kaynak gösterimi ölçümüyle karıştırmayın.
Kaynaklar ve ek okuma
Genel bilgilendirme. Paket koşulları ve teknik gereksinimler zamanla değişebilir.
İlgili rehberler
Tarama, indeksleme ve sıralama aynı aşama değildir
Bir sayfaya botun ulaşması, sayfanın indeksleneceği veya üst sıralarda gösterileceği anlamına gelmez. Teknik SEO önce erişim ve anlamlandırma sorunlarını azaltır.
Canonical etiketi hangi sorunu çözer?
Canonical, benzer içerikli URL’ler arasında tercih edilen adresi belirtmeye yardımcı olur. Kalıcı yönlendirme ile aynı şey değildir ve botun tercihi her durumda zorunlu olarak izlemesini sağlamaz.
Robots.txt ile noindex arasındaki fark
Robots.txt tarama erişimini, noindex ise indekslenmeme talebini yönetir. Botun noindex’i okuyabilmesi için sayfaya erişebilmesi gerekir; bu nedenle iki kontrol gelişigüzel birlikte kullanılmamalıdır.