Энциклопедия ботов
Открытый справочник User-Agent: кто обращается к вашему серверу, легитимен ли визит и что с ним делать на уровне WAF, nginx или антибот-системы. Данные синхронизированы с базой TrafficVeil Bot Detection.
Показано 121–144 из 206 ботов · по алфавиту
Nicecrawler
НежелательныйПрограммный агент Nicecrawler запрашивает URL по расписанию или из очереди задач. Классифицирован как нежелательный для владельца контента. В логах прокси отражает bot-трафик, а не посещение человека из браузера.
UA: nicecrawlerNIXStatsbot
НежелательныйАвтоматизированный краулер NIXStatsbot: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «NIXStatsbot».
UA: nixstatsbotNostoCrawlerBot
НежелательныйСканер Nosto загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: nostocrawlerbotOI-Crawler
НежелательныйСканер OI- загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: oi-crawleromgili
НежелательныйАвтоматизированный краулер omgili: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «omgili».
UA: omgiliOnlineOrNot.com_bot
НежелательныйПрограммный агент OnlineOrNot.com_bot запрашивает URL по расписанию или из очереди задач. Классифицирован как нежелательный для владельца контента. В логах прокси отражает bot-трафик, а не посещение человека из браузера.
UA: onlineornot.comOpenCode
НежелательныйПрограммный агент OpenCode запрашивает URL по расписанию или из очереди задач. Классифицирован как нежелательный для владельца контента. В логах прокси отражает bot-трафик, а не посещение человека из браузера.
UA: opencodeOwler
НежелательныйАвтоматизированный краулер Owler: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «Owler».
UA: owlerPandalytics
НежелательныйСканер Pandalytics загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: pandalyticsPanguBot
НежелательныйАвтоматизированный краулер Pangu: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «PanguBot».
UA: pangubotpanscient.com
НежелательныйСканер panscient.com загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: panscient.comPaqleBot
НежелательныйАвтоматизированный краулер Paqle: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «PaqleBot».
UA: paqlebotPartnerOptimizer-bot
НежелательныйСканер PartnerOptimizer-bot загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: partneroptimizer-botPhind
НежелательныйСканер Phind загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: phindPoggio-Citations
НежелательныйСканер Poggio-Citations загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: poggio-citationsPressEngineBot
НежелательныйСканер PressEngine загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: pressenginebotProductLookoutBot
НежелательныйАвтоматизированный краулер ProductLookout: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «ProductLookoutBot».
UA: productlookoutbotproximic
НежелательныйСканер proximic загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: proximicqcbot
НежелательныйАвтоматизированный краулер qcbot: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «qcbot».
UA: qcbotQualifiedBot
НежелательныйСканер Qualified загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: qualifiedbotQualys
НежелательныйПрограммный агент Qualys запрашивает URL по расписанию или из очереди задач. Классифицирован как нежелательный для владельца контента. В логах прокси отражает bot-трафик, а не посещение человека из браузера.
UA: qualysQuantcastbot
НежелательныйАвтоматизированный краулер Quantcastbot: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «Quantcastbot».
UA: quantcastbotQuillBot
НежелательныйПрограммный агент Quill запрашивает URL по расписанию или из очереди задач. Классифицирован как нежелательный для владельца контента. В логах прокси отражает bot-трафик, а не посещение человека из браузера.
UA: quillbotQuora-Bot
НежелательныйСканер Quora загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.
UA: quora-botКак мы определяем ботов
User-Agent — только повод присмотреться: подделать строку может кто угодно. Решение принимается по совокупности признаков, и каждый из них проверяется отдельно.
Обратный DNS
Главная проверка для поисковиков: адрес разворачивается в имя, имя — обратно в адрес. Подделка под Googlebot и YandexBot отсекается именно здесь, а не по строке User-Agent.
Отпечаток TLS, JA3
Скрипт на Python или Go здоровается с сервером иначе, чем настоящий Chrome. Расхождение отпечатка рукопожатия с заявленным браузером — прямой признак подмены.
Поведение на сайте
Человек читает, кликает и загружает картинки. Бот берёт только HTML, идёт по каталогу подряд и держит ровный интервал между запросами — паттерн виден за минуту.
ASN и тип сети
Запрос из дата-центра под видом мобильного пользователя — уже аномалия. Смотрим владельца сети, её тип и репутацию соседних адресов того же диапазона.
Заголовки запроса
Порядок и состав заголовков у браузеров стабилен. Отсутствие Accept-Language, странный Accept-Encoding и пустой Referer в связке с тяжёлым обходом дают уверенный вердикт.
Базы и репутация
Поверх признаков — списки известных адресов: 7,1 млн записей из РКН, Tor exit, публичных VPN, ботнетов и поддельных поисковиков. Обновляются ежедневно.
Что делать с AI-краулерами
107 краулеров в справочнике собирают тексты для языковых моделей. Универсального ответа нет: издателю и интернет-магазину выгодны разные решения.
Ставка на видимость
Контент попадает в ответы ChatGPT, Perplexity и Gemini со ссылкой на источник. Для медиа, блогов и справочных проектов это новый канал переходов.
Кому подходит: издания, блоги, документация, B2B-контент
Компромисс по умолчанию
Лимит частоты и доступ только к публичным разделам. Модели видят витрину и статьи, но не выгребают каталог, цены и пользовательский контент целиком.
Кому подходит: магазины, сервисы, площадки с каталогом
Полный запрет
Запрет по User-Agent и по сетям владельца модели. Имеет смысл, когда контент — основной актив и он уже уходит к конкурентам через агрегаторы.
Кому подходит: платный контент, базы, уникальные исследования
Запрет обучения через robots.txt
User-agent: GPTBot
User-agent: ClaudeBot
User-agent: Google-Extended
User-agent: Bytespider
Disallow: /
# поиск с цитированием — оставляем
User-agent: OAI-SearchBot
User-agent: PerplexityBot
Allow: /
Disallow: /cart
Disallow: /account
О справочнике ботов TrafficVeil
Энциклопедия ботов TrafficVeil — открытый справочник User-Agent для более чем 600 известных краулеров, поисковых роботов, AI-агентов, мониторинговых клиентов и сервисных ботов, которые ежедневно обращаются к сайтам. Если вы администратор сайта, SEO-специалист, разработчик или специалист по информационной безопасности, каталог поможет быстро понять, кто обращается к вашему серверу, легитимен ли визит и стоит ли пропускать или блокировать трафик на уровне WAF, nginx или антибот-системы.
Каждая карточка содержит название бота, паттерн User-Agent для распознавания в access.log и правилах фильтрации, краткое описание на русском языке и метку: легитимный или нежелательный посетитель. Боты сгруппированы по десяти категориям (cluster): поисковые роботы — Googlebot, YandexBot, Bingbot; AI и LLM-краулеры — GPTBot, ClaudeBot, PerplexityBot; мониторинг доступности; RSS и фиды; превью ссылок в соцсетях; рекламные и AdTech-боты; SEO и backlink-краулеры; технические клиенты; веб-архивы; прочие сервисные агенты.
Справочник поддерживает полнотекстовый поиск по названию, описанию и паттерну UA, фильтрацию по категории cluster и разделение на легитимных и нежелательных посетителей. Данные синхронизированы с базой TrafficVeil Bot Detection и применяются в продакшене для ML-классификации трафика, rate limiting и WAF-правил.
Владельцы сайтов получают тысячи автоматических запросов в сутки. Часть полезна — индексация в поиске, проверка uptime, генерация Open Graph-превью. Часть перегружает сервер, парсит цены, скликивает рекламу или собирает контент конкурентами. Без понимания User-Agent сложно настроить robots.txt или антибот. Энциклопедия снимает неопределённость: находите бота по имени, читаете назначение и принимаете решение в панели TrafficVeil.
TrafficVeil — российская платформа защиты веб-трафика с детект ботов, L7-фильтрами, DNS, SSL и GeoIP. WAF входит со Starter. Тарифа на трафик нет: вы платите за домены и состав функций. Используйте каталог для аудита логов, настройки whitelist и blacklist, отчётов по бот-трафику и обучения команды. На бесплатном тарифе доступен стартовый контур защиты для 1 домена: проксирование, SSL, детект ботов и лимиты.
Узнайте, кто ходит по вашему сайту
Подключите домен и посмотрите живую ленту: какие боты приходят, что они забирают и сколько это стоит вашему серверу. Запросы ботов и атак в тариф не считаются.
Тарифа на трафик нет. Платите за людей, а не за тех, кого отбили: боты, атаки и всё, что срезали фильтры, в счёт не идут. Тариф — число доменов и глубина настроек.