Как цензура в закрытых ИИ-моделях меняет науку и разработку: кейс ДНК-модели Carbon-X и спор о «поверхностных фильтрах»

22 октября 2026 года сооснователь и CEO Hugging Face Клеман Деланг (@ClemDelangue) анонсировал релиз Carbon-X — открытой языковой модели на 14,8 млрд параметров для чтения, анализа и генерации последовательностей ДНК. В том же посте он рассказал показательную деталь: когда он попросил коммерческую закрытую модель просто вычитать черновик своего твита перед публикацией, сработал фильтр безопасности и запрос заблокировало.

Сам твит Деланга звучал так:

«Фронтирные лаборатории развивают возможности ИИ для биологии, но мешают "хорошим парням" (учёным, университетам, НКО, агентствам здравоохранения) использовать, изучать и понимать их с помощью повсеместных, но поверхностных защитных фильтров (shallow guardrails), которые злоумышленники легко обходят (например, мне заблокировали даже вычитку этого твита

Источник: https://habr.com/ru/articles/1098796/

Вернуться к списку

Интересные статьи

DVT — новый open source ETL (Low-Code и не только)

Привет! На связи Сергей Скирдин, технический директор ИТ-интегратора «Белый код». Я достаточно много занимаюсь интеграциями, хранилищами данных и BI, поэтому, когда ребята из «Денвик Аналитика» предло...

Как обойти платную подписку Битрикс24 и вернуть своего бота к жизни: делаем свой провайдер событий на коробке

Привет, Хабр! (И тебе, страдалец, который три недели смотрит на мёртвого бота в Битриксе. И тебе, админ, который уже устал объяснять руководству, почему «оно перестало работать». И тебе, безопасник, к...

Архитектура в Laravel. Как сделать код понятным и масштабируемым

Сегодня поговорим о теме, где нет универсальных решений, но есть проверенные практики — как организовать код в Laravel, чтобы он оставался чистым даже спустя годы развития.

Прикручиваем Twig к Битрикс, или ещё одна попытка скрестить ежа с ужом

Рано или поздно, каждый пэхапешник, пишущий на битриксе, начинает задумываться о том, как бы его улучшить, чтобы и всякие стандарты можно было соблюдать, и современные инструменты разработки использов...

Импорт из XLSX (Excel) файла в 1С-Битрикс

Ранее в одном из наших КП добавление задач обрабатывалось бизнес-процессами, сейчас задач стало столько, что бизнес-процессы стали неуместны, и понадобился инструмент для массовой заливки задач на КП.