Немецкий журналист Мартин Бернклау решил указать своё имя и место работы в чате с Copilot от Microsoft, чтобы посмотреть, как его статьи в блоге будут восприняты ботом. Тот в ответ выдал информацию о том, что мужчину обвинили в жестоком обращении с детьми и семейной эксплуатации. ИИ также утверждал, что репортёр участвовал в побеге из психиатрической больницы.
Copilot даже выдал оценочные суждения, заявив, что наличие семьи у человека с таким криминальным прошлым — это «плохо».
Наконец, ИИ выдал полный адрес Бернклау с номером телефона и планировщиком маршрута.
Сам журналист отмечает, что он написал много статей, освещающих судебные разбирательства в Тюбингене по делам о злоупотреблениях, насилии и мошенничестве, а Copilot не понял контекста и приписал эти преступления ему.
Бернклау связался с прокуратурой в Тюбингене, но там заявили, что не могут выдвинуть обвинения, потому что утверждения Copilot не исходят от реального человека. Microsoft же сняла с себя всю ответственность, указав на условия обслуживания, где сказано, что компания не отвечает за контент, созданный Copilot.
В 2023 году чат-бот ChatGPT также ложно внёс профессора права Джонатана Тёрли в список юристов, которых обвиняли в сексуальных домогательствах. В качестве источника информации чат-бот привёл статью в WP от марта 2018 года. Однако такой статьи не существует, а ИИ перепутал мужчину с другим профессором по праву — Джоном Тёрли из Университета Джорджтаун, которого обвинили в сексуальных домогательствах к ассистенту.
