From 6dc47bc4dfdd3c13f33ffebf4ca8ae64968bbf71 Mon Sep 17 00:00:00 2001 From: Nyako <1+nyako@noreply.localhost> Date: Sun, 27 Sep 2026 18:09:03 +0000 Subject: [PATCH] =?UTF-8?q?=D0=94=D0=BE=D0=B1=D0=B0=D0=B2=D0=B8=D1=82?= =?UTF-8?q?=D1=8C=20ai=5Fblock/robots.txt?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- ai_block/robots.txt | 51 +++++++++++++++++++++++++++++++++++++++++++++ 1 file changed, 51 insertions(+) create mode 100644 ai_block/robots.txt diff --git a/ai_block/robots.txt b/ai_block/robots.txt new file mode 100644 index 0000000..f8fd2e3 --- /dev/null +++ b/ai_block/robots.txt @@ -0,0 +1,51 @@ +# Запрет сбора данных для OpenAI (ChatGPT) +User-agent: GPTBot +Disallow: / + +User-agent: ChatGPT-User +Disallow: / + +# Запрет обучения моделей Google (Gemini, Vertex AI). +# Обычный поисковик Googlebot при этом продолжит индексировать сайт! +User-agent: Google-Extended +Disallow: / + +# Запрет для Anthropic (Claude) +User-agent: anthropic-ai +Disallow: / + +User-agent: Claude-Web +Disallow: / + +# Запрет для Common Crawl (огромная база, откуда берут данные почти ВСЕ открытые ИИ) +User-agent: CCBot +Disallow: / + +# Запрет для Apple (Apple Intelligence) +User-agent: Applebot-Extended +Disallow: / + +# Запрет для Meta (Llama) +User-agent: FacebookBot +Disallow: / + +User-agent: Meta-ExternalAgent +Disallow: / + +# Запрет для ByteDance (TikTok / Doubao) +User-agent: Bytespider +Disallow: / + +# Запрет для Perplexity AI +User-agent: PerplexityBot +Disallow: / + +# Другие известные боты для сбора ИИ-датасетов +User-agent: Diffbot +Disallow: / + +User-agent: Cohere-ai +Disallow: / + +User-agent: Omgilibot +Disallow: / \ No newline at end of file