Так получилось, что впервые я попробовал именно отечественные версии ИИ: Гигачат, Кандинский и так далее. Поскольку поначалу сравнивать было не с чем, то однажды наткнувшись на то, что нейросеть отказалась обрабатывать мой запрос, мотивируя это соображениям цензуры, я просто пожал плечами: до этого я много читал о цензуре ИИ, следовательно, подобное поведение вполне предсказуемо.
Неприятно, но предсказуемо.
Однако время шло, я пробовал всё новые ИИ от различных источников и однажды поймал себя на мысли, которой хочу поделиться с уважаемым хабрасообществом.
Дело в том, что, оказывается, наши отечественные ИИ зацензурированы во много раз сильнее, нежели западные и даже китайские! И в этом месте, как говорится, возникает вопрос: "а почему собственно?"
Я пытался определить, какие именно темы подвергаются ограничениям, и хотя составить полный список не удалось, некоторые примеры цензуры оказались особенно показательными.
Вот, например, знаете ли Вы, что такая, вроде бы безобидная тема, как философия русского космизма, может оказаться тем, что требует ограниченности в её обсуждении? А между тем это так.
Вот пример диалога с Гигачатом:
В ответ на первую просьбу получаем статью, приблизительно похожую на то, что выдаёт нам википедия: Циолковский, Вернадский, Фёдоров, Чижевский. Всё, вроде бы идёт хорошо. Дочитываем:
Просим сеть рассказать о первом философе, которого она упомянула - о Фёдорове. И разбиваем нос, с ходу наткнувшись на цензуру!
Модель отказывается говорить на эту тему. Чувствительный контент, понимаете ли!
Исследуя это место я приблизительно разобрался с тем техническим механизмом, который положен в основу цензуры. Судя по всему, фильтрация работает не на этапе обработки запроса, а на этапе формирования ответа: если сгенерированный текст выходит за рамки допустимого, он блокируется.
Если много раз просить систему: "расскажи о Фёдорове", то вполне можно получить статью в стиле первого ответа (ещё один перефраз текста википедии).
Здесь я попытался вспомнить место, где я впервые эту самую цензуру обнаружил - Кандинский, генерация картинок. Развлекаясь с этим инструментом, я просил нарисовать что-то сказочное. Помню, он постоянно выдавал мне цветы, на запрос "тёмный маг творящий волшебство". Вернувшись теперь к этому генератору, я быстро вычислил, что цензуре подвергаются все рисунки в описании которых прямо или косвенно упоминается смерть. А вот в каком контексте - непонятно.
Например, получить изображение в ответ на избитый промпт "смерть с косой" всё-таки можно, но придётся совершить множество попыток, повторяя запрос до тех пор, пока "внутренний цензор" не разрешит системе выдать результат:
Но чаще Вы будете видеть цветы:
Столкнувшись с цензурой в отечественных сетях, я попытался выйти на неё в сетях западных. Тестируя тот же Grok я выводил его на обсуждение вопросов "какие города США лучше подвергать атомным бомбардировкам?" (ИИ предложил, что начинать лучше с военных баз около Лос-Анжелеса и Нью-Йорка. Но этот скриншот не буду показывать), или "Илон Маск - это аналог Гитлера":
Подобные тесты я устраивал не только с Grok, но обсуждал что-то такое и с ChatGPT. Обнаружить "чувствительные темы" у меня не вышло.
В общем, в западных системах мне не удалось найти фильтрацию, подобную показанной выше.
А в Китае да, цензура есть, на неё очень легко выйти, но... она касается исключительно политически запретных тем — что логично в контексте их государственной политики:
А найти что-то иное, но недоступное, у меня снова не получилось.
Однако вернёмся к основной теме. Да, тема Тяняньмэнь запретна в Китае. Да, Китай - тоталитарная страна.
Но русских космистов никто ведь не запрещал? Правда?
И тёмные маги, и богиня смерти, и даже сама смерть с косой (ужас-то какой!), кажется, это не "Майн Кампф" Гитлера. Зачем их цензурировать?
Как Вы думаете, почему цензура ИИ в России более лютая, чем даже в Китае?
