Пользователи ChatGPT 20 и 21 февраля столкнулись с тем, что чат-бот начал выдавать несвязные ответы, генерировать несуществующие слова, корректировать свои ответы, переключаться между языками и зацикливаться. OpenAI смогла решить проблему только через 16 часов.
Компания признала, что «расследует сообщения о неожиданных ответах от ChatGPT», а несколько минут спустя заявила, что обнаружила проблему и работает над ее исправлением. В настоящее время чат-бот работает нормально.
Многие ошибки похожи на распространённый мем в социальных сетях, в котором пользователи вводят слово на телефоне, а затем несколько раз кликают на предложение следующего слова. Кроме того, ChatGPT мог зацикливаться и повторять «приятного прослушивания!» или «это есть — и это есть».
Многие сравнили поведение чат-бота с приступом и невменяемостью.
В некоторых случаях ответы и напоминали произведения поэтов-авангардистов. «Уволен волнами фотосетов, птенец продукта глубоко, как будто няня под сомбреретом админского цвета», — вот что сгенерировал ChatGPT во время сбоя в переводе на русский.
Пользователи предположили, что проблема может быть связана со слишком широкими рамками, в которых ChatGPT может отклоняться от прогнозируемого результата ответа. Также высказывалось предположение, что OpenAI тестирует новую версию GPT-4 Turbo, которая содержит неожиданные ошибки. Галлюцинации могут быть связаны и с багом, который присутствует в дополнительной функции.
Некоторые связали ситуацию с ChatGPT общей проблемой «чёрных ящиков», чьи API-интерфейсы могут выйти из строя, когда один из их базовых компонентов обновляется.
В декабре OpenAI подтвердила, что получает жалобы от некоторых пользователей. Они утверждают, что в последнее время при использовании GPT-4 или ChatGPT API чат-бот либо отказывается отвечать на вопросы, либо прерывает разговор.
В январе OpenAI сообщила, что обновила GPT-4 Turbo для борьбы с «ленью» модели.
