Teknik AI Görünürlüğü

robots.txt Dosyanız Markanızı AI Cevaplarından Gizliyor Olabilir

GPTBot, ClaudeBot ve PerplexityBot erişimi engellendiğinde Türk markalar ChatGPT, Claude ve Perplexity cevaplarında sessizce kayboluyor.

Eren Dinçer
Eren DinçerYapay zeka görünürlük uzmanı
··6 dk okuma
robots.txt Dosyanız Markanızı AI Cevaplarından Gizliyor Olabilir

Bir Türk e-ticaret markasının pazarlama müdürü, ChatGPT'ye kategorisindeki en iyi markaları sorduğunda kendi markasını göremedi. İçerik güçlüydü, basında haberleri vardı. Sorun başka yerdeydi: üç yıl önce eklenen bir güvenlik kuralı, tüm AI tarayıcılarını sessizce engelliyordu. Bu hikâye tekil değil. AI görünürlüğü konuşulurken içerik ve itibar öne çıkıyor, ama zincirin ilk halkası teknik erişim.

1. Veriler Ne Söylüyor?

Reuters Institute'un haber siteleri üzerine yaptığı analize göre, 2023 sonunda incelenen büyük haber sitelerinin yaklaşık yarısı OpenAI'ın tarayıcılarını robots.txt ile engelliyordu. Originality.ai'ın en çok ziyaret edilen siteler üzerindeki takibinde de GPTBot engelleyen sitelerin oranı kısa sürede hızla yükseldi. Bu kararların bir kısmı bilinçli bir strateji; ancak çoğu zaman engel, bir ajansın veya geliştiricinin yıllar önce yaptığı ayardan geliyor ve kimse yeniden gözden geçirmiyor.

~%50Reuters Institute analizinde OpenAI tarayıcısını engelleyen büyük haber sitelerinin yaklaşık payı (2023 sonu)
%40'a kadarPrinceton öncülüğündeki GEO araştırmasında kaynak, istatistik ve alıntı eklemenin görünürlüğe yaptığı artış
4+Her biri farklı amaç taşıyan başlıca AI tarayıcı kategorisi

Princeton ve ortaklarının Generative Engine Optimization çalışması, içerik biçiminin AI cevaplarındaki görünürlüğü ciddi biçimde değiştirebildiğini gösterdi. Ancak bu optimizasyonların tamamı bir ön koşula dayanıyor: botun sayfanıza ulaşıp içeriği okuyabilmesi. Okunamayan sayfa, ne kadar iyi yazılmış olursa olsun, değerlendirmeye girmez.

2. Hangi AI Botları Var, Ne Yapıyor?

“AI botlarını engelle” tek bir anahtar değil. Her sağlayıcının farklı amaçlara hizmet eden birden fazla botu var ve hepsini aynı kefeye koymak, istemeden görünürlüğünüzü kapatabilir.

BotSağlayıcıGenel amaç
GPTBotOpenAIModel eğitimi için içerik toplama
OAI-SearchBotOpenAIChatGPT arama sonuçları
ChatGPT-UserOpenAIKullanıcı isteğiyle sayfa ziyareti
ClaudeBotAnthropicClaude için içerik toplama
PerplexityBotPerplexityCevap motoru için dizinleme
Google-ExtendedGoogleGemini için kullanım izni belirteci
Kritik ayrım: eğitim botunu engellemek ile arama ve kullanıcı botlarını engellemek aynı sonucu doğurmaz. Eğitim verisine girmek istemiyor olabilirsiniz, ama canlı aramada önerilmek istiyorsanız arama botlarına kapı açık kalmalı.

3. Sessiz Engeller: CDN, WAF ve JavaScript

robots.txt dosyanız temiz olsa bile erişim başka katmanlarda kesilebilir. Cloudflare, 2025 ortasında yeni alan adları için AI tarayıcılarını varsayılan olarak engelleme yaklaşımına geçtiğini duyurdu. Bu, birçok altyapı sağlayıcısının benzer bir yöne gittiğini gösteriyor. Eski bir bot koruma kuralı ya da agresif bir güvenlik duvarı profili, markanızın haberi olmadan AI botlarına 403 hatası döndürüyor olabilir.

İkinci sorun JavaScript. Vercel'in 2024'te yayımladığı analize göre, büyük AI tarayıcılarının önemli kısmı sayfadaki JavaScript'i çalıştırmıyor. İçeriği tamamen istemci tarafında yükleyen bir site, kullanıcıya zengin görünürken bota boş bir kabuk gösterebilir. Fiyat tabloları, SSS ve ürün özellikleri bu yüzden en azından sunucu tarafında üretilmiş HTML içinde bulunmalı.

Üçüncü sorun ise site haritası ve sayfa hiyerarşisi. Önemli sayfalarınız üç tık derinde, sitemap dışında ve iç bağlantısızsa, erişime açık olsa bile keşfedilme olasılığı düşer.

4. 30 Dakikada Erişim Denetimi

AI tarayıcı erişim denetimi

  1. alanadiniz.com/robots.txt adresini açın ve GPTBot, OAI-SearchBot, ClaudeBot, PerplexityBot ile Google-Extended için Disallow satırlarını arayın.
  2. Genel User-agent: * altında geniş bir Disallow: / olup olmadığını kontrol edin; bu tüm botları kapsar.
  3. CDN ve güvenlik duvarı panelinizde bot yönetimi kurallarını inceleyin; AI botlarına verilen yanıt kodlarını sunucu loglarından doğrulayın.
  4. Fiyat, hizmet ve SSS sayfalarınızı JavaScript kapalıyken görüntüleyin; içerik görünmüyorsa sunucu tarafı render planlayın.
  5. Sitemap dosyanızı güncelleyin ve satış açısından kritik sayfaları iç bağlantılarla öne çıkarın.
  6. Değişiklikten sonra 4-6 hafta boyunca ChatGPT, Gemini, Claude ve Perplexity cevaplarında görünürlüğünüzü aynı sorgu setiyle yeniden ölçün.

Son adımı atlamayın. Erişim ayarları ile görünürlük arasındaki ilişki doğrusal değil; modellerin yeni içeriği dizine alması zaman alır ve cevaplar her seferinde değişir. Tek bir ölçüm yerine, düzenli ve tekrarlı ölçüm sizi doğru sonuca götürür.

Sonuç

AI görünürlüğü stratejisi çoğu zaman içerik, itibar ve üçüncü taraf kaynaklar üzerinden konuşuluyor. Ama en iyi içerik bile erişilemiyorsa görünmez kalır. robots.txt, CDN kuralları ve render yöntemi, markanızın AI cevaplarında yer alıp almayacağını belirleyen sessiz kararlar. Bunları bir kez bilinçle gözden geçirmek, en düşük maliyetli görünürlük yatırımlarından biri olabilir.

Markanızın ChatGPT, Gemini, Claude ve Perplexity cevaplarında bugün nerede durduğunu merak ediyorsanız, Visibiy ile ücretsiz analiz başlatın: https://www.visibiy.com/ucretsiz-analiz

Bu yazıyı paylaş

Bir sonraki adım

Markanızın AI görünürlüğünü izlemeye başlayın

Visibiy ile ChatGPT, Gemini ve Claude'daki konumunuzu takip edin.

Ücretsiz Analiz Al →