Wszystkie darmowe narzędzia

Sprawdzanie robots.txt pod boty AI

Wpisz domenę, by zobaczyć, co jej robots.txt mówi crawlerom AI, botom wyszukiwarek AI i agentom przeglądającym sieć.

Firmy AI uruchamiają kilka botów o różnych zadaniach. Jedne zbierają dane treningowe, inne pobierają strony na potrzeby wyszukiwarki AI albo gdy ktoś zapyta o daną stronę.

Zablokowanie jednego nie blokuje pozostałych. GPTBot zbiera dane treningowe, a wyszukiwarka ChatGPT używa OAI-SearchBot, więc sprawdzaj je osobno.

Pytania

Czy zablokowanie GPTBot usuwa moją stronę z wyszukiwarki ChatGPT?

Nie. GPTBot zbiera dane treningowe. Wyszukiwarka ChatGPT używa OAI-SearchBot, a ChatGPT-User pobiera stronę, gdy ktoś o nią zapyta.

Czym jest Content-Signal?

Linią w robots.txt, która określa, jak można używać Twoich treści: do wyszukiwania, odpowiedzi AI i trenowania AI.