ГлавнаяЭнциклопедия ботов
Bot Detection

Энциклопедия ботов

Открытый справочник User-Agent: кто обращается к вашему серверу, легитимен ли визит и что с ним делать на уровне WAF, nginx или антибот-системы. Данные синхронизированы с базой TrafficVeil Bot Detection.

618ботов в справочнике с описанием на русском
10категорий: от поисковиков до парсеров
620подробных разбора в блоге
7,1 млнадресов в базах блокировок сервиса

Показано 1–24 из 48 ботов · на «S»

Уникальная иллюстрация бота SalesViewerBot: нежелательный прочие краулеры и сервисы

SalesViewerBot

Нежелательный
Прочие краулеры и сервисы

Программный агент SalesViewer запрашивает URL по расписанию или из очереди задач. Классифицирован как нежелательный для владельца контента. В логах прокси отражает bot-трафик, а не посещение человека из браузера.

UA: salesviewerbot
ОграничиватьПодробнее
Уникальная иллюстрация бота SBIntuitionsBot: нежелательный прочие краулеры и сервисы

SBIntuitionsBot

Нежелательный
Прочие краулеры и сервисы

Сканер SBIntuitions загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.

UA: sbintuitionsbot
ОграничиватьПодробнее
Уникальная иллюстрация бота scoopit-crawler: нежелательный прочие краулеры и сервисы

scoopit-crawler

Нежелательный
Прочие краулеры и сервисы

Автоматизированный краулер scoopit-crawler: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «scoopit-crawler».

UA: scoopit-crawler
ОграничиватьПодробнее
Уникальная иллюстрация бота scrapy: нежелательный прочие краулеры и сервисы

scrapy

Нежелательный
Прочие краулеры и сервисы

Фреймворк Scrapy (Python) для промышленного веб-скрапинга и краулинга. User-Agent указывает на настроенного паука, часто с высокой частотой запросов.

UA: scrapy
ОграничиватьПодробнее
Уникальная иллюстрация бота Scrunchbot: нежелательный прочие краулеры и сервисы

Scrunchbot

Нежелательный
Прочие краулеры и сервисы

Сканер Scrunchbot загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.

UA: scrunchbot
ОграничиватьПодробнее
Уникальная иллюстрация бота SeekportBot: нежелательный прочие краулеры и сервисы

SeekportBot

Нежелательный
Прочие краулеры и сервисы

Программный агент Seekport запрашивает URL по расписанию или из очереди задач. Классифицирован как нежелательный для владельца контента. В логах прокси отражает bot-трафик, а не посещение человека из браузера.

UA: seekportbot
ОграничиватьПодробнее
Уникальная иллюстрация бота Sellers.Guide Crawler: нежелательный прочие краулеры и сервисы

Sellers.Guide Crawler

Нежелательный
Прочие краулеры и сервисы

Автоматизированный краулер Sellers.Guide: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «Sellers.Guide Crawler».

UA: sellers.guide
ОграничиватьПодробнее
Уникальная иллюстрация бота SemanticVisions: легитимный прочие краулеры и сервисы

SemanticVisions

Легитимный
Прочие краулеры и сервисы

Легитимный сервис SemanticVisions: обращается к сайту для интеграции, верификации или доставки функции клиенту. Запросы связаны с настройками аккаунта, а не с массовым scraping.

UA: semantic-visions
ПропускатьПодробнее
Уникальная иллюстрация бота SentiBot: нежелательный прочие краулеры и сервисы

SentiBot

Нежелательный
Прочие краулеры и сервисы

Автоматизированный краулер Senti: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «SentiBot».

UA: sentibot
ОграничиватьПодробнее
Уникальная иллюстрация бота Sentry: легитимный прочие краулеры и сервисы

Sentry

Легитимный
Прочие краулеры и сервисы

Платформа Sentry для мониторинга ошибок приложений — uptime-бот проверяет healthcheck-эндпоинты. Периодические запросы отражают настроенный мониторинг доступности.

UA: sentry
ПропускатьПодробнее
Уникальная иллюстрация бота SequelWP: легитимный прочие краулеры и сервисы

SequelWP

Легитимный
Прочие краулеры и сервисы

Инфраструктура SequelWP загружает страницы или ресурсы в рамках штатной работы платформы. Обычно ожидаемый трафик при подключении сайта к сервису.

UA: sequelwp
ПропускатьПодробнее
Уникальная иллюстрация бота SERankingBot: нежелательный прочие краулеры и сервисы

SERankingBot

Нежелательный
Прочие краулеры и сервисы

Автоматизированный краулер SERanking: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «SERankingBot».

UA: seranking
ОграничиватьПодробнее
Уникальная иллюстрация бота serendeputybot: нежелательный прочие краулеры и сервисы

serendeputybot

Нежелательный
Прочие краулеры и сервисы

Программный агент serendeputybot запрашивает URL по расписанию или из очереди задач. Классифицирован как нежелательный для владельца контента. В логах прокси отражает bot-трафик, а не посещение человека из браузера.

UA: serendeputybot
ОграничиватьПодробнее
Уникальная иллюстрация бота SFDC-Callout: легитимный прочие краулеры и сервисы

SFDC-Callout

Легитимный
Прочие краулеры и сервисы

Инфраструктура Salesforce загружает страницы или ресурсы в рамках штатной работы платформы. Обычно ожидаемый трафик при подключении сайта к сервису.

UA: sfdc-callout
ПропускатьПодробнее
Уникальная иллюстрация бота ShapBot: нежелательный прочие краулеры и сервисы

ShapBot

Нежелательный
Прочие краулеры и сервисы

Сканер Shap загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.

UA: shapbot
ОграничиватьПодробнее
Уникальная иллюстрация бота ShortPixel: легитимный прочие краулеры и сервисы

ShortPixel

Легитимный
Прочие краулеры и сервисы

Легитимный сервис ShortPixel: обращается к сайту для интеграции, верификации или доставки функции клиенту. Запросы связаны с настройками аккаунта, а не с массовым scraping.

UA: shortpixel
ПропускатьПодробнее
Уникальная иллюстрация бота Silktide: легитимный прочие краулеры и сервисы

Silktide

Легитимный
Прочие краулеры и сервисы

Инфраструктура Silktide загружает страницы или ресурсы в рамках штатной работы платформы. Обычно ожидаемый трафик при подключении сайта к сервису.

UA: silktide
ПропускатьПодробнее
Уникальная иллюстрация бота SilktideBot: нежелательный прочие краулеры и сервисы

SilktideBot

Нежелательный
Прочие краулеры и сервисы

Сканер Silktide загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.

UA: silktidebot
ОграничиватьПодробнее
Уникальная иллюстрация бота SimpleAsyncPageCrawler: нежелательный прочие краулеры и сервисы

SimpleAsyncPageCrawler

Нежелательный
Прочие краулеры и сервисы

Автоматизированный краулер SimpleAsyncPage: обходит страницы для сбора данных, индекса или мониторинга. Классифицирован как нежелательный для владельца контента. Конкретная цель зависит от оператора, использующего идентификатор «SimpleAsyncPageCrawler».

UA: simpleasyncpagecrawler
ОграничиватьПодробнее
Уникальная иллюстрация бота SimplePie: легитимный прочие краулеры и сервисы

SimplePie

Легитимный
Прочие краулеры и сервисы

Легитимный сервис SimplePie: обращается к сайту для интеграции, верификации или доставки функции клиенту. Запросы связаны с настройками аккаунта, а не с массовым scraping.

UA: simplepie
ПропускатьПодробнее
Уникальная иллюстрация бота SiteLock: легитимный прочие краулеры и сервисы

SiteLock

Легитимный
Прочие краулеры и сервисы

Компонент SiteLock проверяет URL при установке виджета, webhook или tracking-кода на сайте. Подтверждает корректность интеграции от имени пользователя сервиса.

UA: sitelock
ПропускатьПодробнее
Уникальная иллюстрация бота SitemapBot: нежелательный прочие краулеры и сервисы

SitemapBot

Нежелательный
Прочие краулеры и сервисы

Сканер Sitemap загружает веб-страницы для анализа контента, ссылок или технических параметров. Классифицирован как нежелательный для владельца контента. Нагрузка на origin зависит от частоты и глубины обхода.

UA: sitemapbot
ОграничиватьПодробнее
Уникальная иллюстрация бота SkroutzBot: нежелательный прочие краулеры и сервисы

SkroutzBot

Нежелательный
Прочие краулеры и сервисы

Программный агент Skroutz запрашивает URL по расписанию или из очереди задач. Классифицирован как нежелательный для владельца контента. В логах прокси отражает bot-трафик, а не посещение человека из браузера.

UA: skroutzbot
ОграничиватьПодробнее
Уникальная иллюстрация бота Skype: легитимный прочие краулеры и сервисы

Skype

Легитимный
Прочие краулеры и сервисы

Клиент Microsoft Skype, обращающийся к URL для превью и проверки ссылок в переписке. Запрос идёт от инфраструктуры Microsoft, а не от браузера пользователя.

UA: skype
ПропускатьПодробнее

Как мы определяем ботов

User-Agent — только повод присмотреться: подделать строку может кто угодно. Решение принимается по совокупности признаков, и каждый из них проверяется отдельно.

Обратный DNS

Главная проверка для поисковиков: адрес разворачивается в имя, имя — обратно в адрес. Подделка под Googlebot и YandexBot отсекается именно здесь, а не по строке User-Agent.

PTR-записьпрямая сверкаофициальные диапазоны

Отпечаток TLS, JA3

Скрипт на Python или Go здоровается с сервером иначе, чем настоящий Chrome. Расхождение отпечатка рукопожатия с заявленным браузером — прямой признак подмены.

JA3 и JA4набор шифровпорядок расширений

Поведение на сайте

Человек читает, кликает и загружает картинки. Бот берёт только HTML, идёт по каталогу подряд и держит ровный интервал между запросами — паттерн виден за минуту.

ритм запросовглубина обходастатика и cookie

ASN и тип сети

Запрос из дата-центра под видом мобильного пользователя — уже аномалия. Смотрим владельца сети, её тип и репутацию соседних адресов того же диапазона.

хостинг или домашняя сетьVPN и Torблокировка по ASN

Заголовки запроса

Порядок и состав заголовков у браузеров стабилен. Отсутствие Accept-Language, странный Accept-Encoding и пустой Referer в связке с тяжёлым обходом дают уверенный вердикт.

порядок заголовковHTTP/2 fingerprintнесогласованность с UA

Базы и репутация

Поверх признаков — списки известных адресов: 7,1 млн записей из РКН, Tor exit, публичных VPN, ботнетов и поддельных поисковиков. Обновляются ежедневно.

РКНTor exitSpamhaus и IPsumFirehol

Что делать с AI-краулерами

107 краулеров в справочнике собирают тексты для языковых моделей. Универсального ответа нет: издателю и интернет-магазину выгодны разные решения.

Пропускать

Ставка на видимость

Контент попадает в ответы ChatGPT, Perplexity и Gemini со ссылкой на источник. Для медиа, блогов и справочных проектов это новый канал переходов.

Кому подходит: издания, блоги, документация, B2B-контент

Ограничивать

Компромисс по умолчанию

Лимит частоты и доступ только к публичным разделам. Модели видят витрину и статьи, но не выгребают каталог, цены и пользовательский контент целиком.

Кому подходит: магазины, сервисы, площадки с каталогом

Блокировать

Полный запрет

Запрет по User-Agent и по сетям владельца модели. Имеет смысл, когда контент — основной актив и он уже уходит к конкурентам через агрегаторы.

Кому подходит: платный контент, базы, уникальные исследования

Запрет обучения через robots.txt

# обучение моделей — запрещаем
User-agent: GPTBot
User-agent: ClaudeBot
User-agent: Google-Extended
User-agent: Bytespider
Disallow: /

# поиск с цитированием — оставляем
User-agent: OAI-SearchBot
User-agent: PerplexityBot
Allow: /
Disallow: /cart
Disallow: /account
robots.txt — это просьба, а не запрет. Крупные компании его соблюдают, десятки мелких скраперов представляются как AI-краулеры и не читают файл вовсе. Реальный запрет ставится на границе: правило по User-Agent, лимит частоты и блокировка сетей владельца модели.

О справочнике ботов TrafficVeil

Энциклопедия ботов TrafficVeil — открытый справочник User-Agent для более чем 600 известных краулеров, поисковых роботов, AI-агентов, мониторинговых клиентов и сервисных ботов, которые ежедневно обращаются к сайтам. Если вы администратор сайта, SEO-специалист, разработчик или специалист по информационной безопасности, каталог поможет быстро понять, кто обращается к вашему серверу, легитимен ли визит и стоит ли пропускать или блокировать трафик на уровне WAF, nginx или антибот-системы.

Каждая карточка содержит название бота, паттерн User-Agent для распознавания в access.log и правилах фильтрации, краткое описание на русском языке и метку: легитимный или нежелательный посетитель. Боты сгруппированы по десяти категориям (cluster): поисковые роботы — Googlebot, YandexBot, Bingbot; AI и LLM-краулеры — GPTBot, ClaudeBot, PerplexityBot; мониторинг доступности; RSS и фиды; превью ссылок в соцсетях; рекламные и AdTech-боты; SEO и backlink-краулеры; технические клиенты; веб-архивы; прочие сервисные агенты.

Справочник поддерживает полнотекстовый поиск по названию, описанию и паттерну UA, фильтрацию по категории cluster и разделение на легитимных и нежелательных посетителей. Данные синхронизированы с базой TrafficVeil Bot Detection и применяются в продакшене для ML-классификации трафика, rate limiting и WAF-правил.

Владельцы сайтов получают тысячи автоматических запросов в сутки. Часть полезна — индексация в поиске, проверка uptime, генерация Open Graph-превью. Часть перегружает сервер, парсит цены, скликивает рекламу или собирает контент конкурентами. Без понимания User-Agent сложно настроить robots.txt или антибот. Энциклопедия снимает неопределённость: находите бота по имени, читаете назначение и принимаете решение в панели TrafficVeil.

TrafficVeil — российская платформа защиты веб-трафика с детект ботов, L7-фильтрами, DNS, SSL и GeoIP. WAF входит со Starter. Тарифа на трафик нет: вы платите за домены и состав функций. Используйте каталог для аудита логов, настройки whitelist и blacklist, отчётов по бот-трафику и обучения команды. На бесплатном тарифе доступен стартовый контур защиты для 1 домена: проксирование, SSL, детект ботов и лимиты.

Узнайте, кто ходит по вашему сайту

Подключите домен и посмотрите живую ленту: какие боты приходят, что они забирают и сколько это стоит вашему серверу. Запросы ботов и атак в тариф не считаются.

Тарифа на трафик нет. Платите за людей, а не за тех, кого отбили: боты, атаки и всё, что срезали фильтры, в счёт не идут. Тариф — число доменов и глубина настроек.

Справочник открыт и бесплатен · база обновляется еженедельно · 1 домен на бесплатном тарифе
TrafficVeil