Усі безкоштовні інструменти

Перевірка robots.txt для ШІ-ботів

Введіть домен, щоб побачити, що його robots.txt каже ШІ-краулерам, ботам ШІ-пошуку та агентам перегляду.

Компанії ШІ запускають кількох ботів із різними завданнями. Одні збирають дані для навчання, інші завантажують сторінки для ШІ-пошуку або коли хтось питає про сторінку.

Блокування одного не блокує решту. GPTBot збирає дані для навчання, а пошук ChatGPT користується OAI-SearchBot, тож перевіряйте їх окремо.

Запитання

Чи прибере блокування GPTBot мій сайт із пошуку ChatGPT?

Ні. GPTBot збирає дані для навчання. Пошук ChatGPT користується OAI-SearchBot, а ChatGPT-User завантажує сторінку, коли хтось про неї питає.

Що таке Content-Signal?

Рядок у robots.txt, який вказує, як можна використовувати ваш вміст: для пошуку, відповідей ШІ та навчання ШІ.