Поисковые боты OpenAI на время вывели из строя сайт Triplegangers

Моя цель - предложение широкого ассортимента товаров и услуг на постоянно высоком качестве обслуживания по самым выгодным ценам.

Сайт компании 3D-моделей Triplegangers в первые выходные января перестал работать из-за распределённой атаки типа «отказ в обслуживании». Её вызвали поисковые боты от OpenAI.

«У нас более 65 тысяч позиций, и у каждой есть страница. На каждой странице есть как минимум три фотографии», — рассказал генеральный директор Triplegangers Александр Томчук. По его словам, боты OpenAI отправляли «десятки тысяч» запросов к серверу, пытаясь загрузить все эти сотни тысяч фотографий вместе с их подробными описаниями.

«OpenAI использовала 600 IP-адресов для веб-скрапинга, и мы всё ещё анализируем журналы с прошлой недели, поэтому возможно, что их гораздо больше. По сути, это была DDoS-атака», — отметил Томчук.

Сайт Triplegangers продаёт файлы 3D-объектов, а также фотографии — от рук до волос, кожи и до полных изображений тел — 3D-художникам, создателям видеоигр и другим участникам рынка.

При этом правилами сайта ботам запрещено использовать изображения без разрешения. Однако до последнего момента в Triplegangers не редактировали файл robots.txt, чтобы включить в него запрет для работы ботов OpenAI GPTBot, ChatGPT-User или OAI-SearchBot.

Теперь Triplegangers, помимо недополученной прибыли, ещё и должен будет оплатить повышенный счёт AWS из-за активности ЦП и загрузок бота.

Компания уже отредактировала файл robots.txt для блокировки GPTBot и нескольких других ботов, в том числе Barkrowler и Bytespider. Но Томчук говорит, что он так и не смог выяснить, какие данные с сайта успела выгрузить OpenAI. Он не нашёл способа связаться с компанией. Сама OpenAI не ответила на запрос TechCrunch о комментарии. 

Отсутствие обратной связи представляет угрозу для Triplegangers. «Мы работаем в бизнесе, где права являются довольно серьёзной проблемой, потому что мы сканируем реальных людей. Теперь нам приходится ежедневно отслеживать активность журналов, чтобы обнаружить этих ботов», — пояснил Томчук. 

Ранее владельцы других веб-сайтов пожаловались, что боты OpenAI обрушили их сайты и увеличили их счета AWS. Исследование компании по цифровой рекламе DoubleVerify показало, что веб-скраперы ИИ в 2024 году способствовали увеличению трафика на 86%.

В декабре Cloudflare уже внедрила в панель управления аудита ИИ новую функцию, которую шутливо назвала Robotcop. Она позволит проверить, какие ИИ-службы соблюдают политики robots.txt, а какие нет, а затем программно применять эти политики.

Источник: https://habr.com/ru/news/873226/


Интересные статьи

Интересные статьи

Движок, он же фреймворк (framework), 1С-Битрикс довольно популярен в странах СНГ.Подкупает он своей универсальностью, собственным маркетплейсом со множеством модулей расширения, как платных так и бесп...
Эксперты Positive Technologies обнаружили уязвимость в системе управления сайтом «1С‑Битрикс: Управление сайтом», похожая уязвимость была выявлена в «Битрикс24» в начале 2023 года....
Я изучаю Битрикс где-то пару недель. Зачем?.. Хотелось чего-то новенького, тут подвернулась учёба. Даром, с наставниками, с возможным трудоустройством дальше хотя бы на пару месяцев - на испытательный...
Предлагаем вашему вниманию подборку с ссылками на новые материалы из области фронтенда и около него. Читать дальше →
Электронный паспорт Буквально неделю назад опять пошли разговоры о том, что в 2020 или 21-ом году в РФ начнут выдавать электронные паспорта, сначала добровольно, потом к 23-ему перестанут выда...