Ученые из Microsoft и Университета Карнеги-Меллон (да-да, те самые ботаны в белых халатах) доказали: чем больше мы полагаемся на искусственный интеллект, тем меньше шевелим мозгами. И это не просто слова — исследование провели 319 научных работников, которые рассказали о 936 примерах использования генеративного ИИ.
Что говорят в исследовании?
“Основная ирония автоматизации заключается в том, что, механизируя рутинные задачи и оставляя обработку исключений на усмотрение пользователя-человека, вы лишаете пользователя обычных возможностей практиковать свои суждения и укреплять свою когнитивную мускулатуру, оставляя его атрофированным и неподготовленным к возникновению исключений”, - пишут исследователи.
“Удивительно, но, хотя ИИ может повысить эффективность, он также может снизить степень вовлеченности, особенно в рутинные задачи или задачи с низкими ставками, в которых пользователи просто полагаются на ИИ, что вызывает опасения по поводу долгосрочной надежности и снижения самостоятельности в решении проблем”, - пишет исследователей.
“Инструменты генеративного искусственного интеллекта [...] являются новейшими в длинной линейке технологий, которые поднимают вопросы об их влиянии на качество человеческого мышления, в которую входят письменность (против чего возражал Сократ), печать (против чего возражал Тритемиус), калькуляторы (против которых возражали учителя арифметики) и Интернет”, - написал исследователь. “Такое опасение небезосновательно. При неправильном использовании технологии могут привести и действительно приводят к ухудшению когнитивных способностей, которые должны быть сохранены”.
Какие основные выводы можно сделать?
"Атрофия навыков" - автоматизация рутинных задач = мозг на автопилоте. Если ИИ решает за вас, где практика ваших скиллов? Поэтому автоматизация лишает нас практики в принятии решений.
Конвергенция результатов - AI выдает однообразные ответы, и мы начинаем думать, что мир — это черно-белый сериал, а не разноцветный блокбастер. Разнообразие идей? Забудьте свою критическую оценку.
Опасная уверенность - чем больше ты доверяешь ИИ, тем меньше проверяешь его работу. А если он налажает? Ну, типо, ChatGPT напишет брошюру по диабету, а там окажется, что сахар надо есть ложками. Кто виноват? Ты, потому что не проверил.
Что предлагают делать исследователи?
Исследователи предлагают проектировать инструменты AI так, чтобы они стимулировали критическое мышление. Например, добавлять объяснения его рассуждений или подсказки, чтобы мы могли доработать результаты. Короче, пусть ИИ не просто выдает ответы, а еще и учит нас думать. Кстати, уже многие нейросети стали использовать функции "Deepthink".
Что предлагаю по этому поводу я?
Читать больше научной, исследовательской и технической литературы. Это как качалка для мозга — развивает фантазию и помогает быть "подвешанным на язык". Но на Хабр все пользователи и так много читают данной литературы, поэтому можно и пропустить этот пункт
Интересные статьи
Интересные статьи
