Интеллект — способность системы развиваться (адаптироваться).
Придумал одну интересную мысль про то, обладают ли современные БЯМ интеллектом. Я занимаюсь тем, что придумываю идеи о том, как создать ИИ. Только я называю это цифровым интеллектом — то есть программа, которая может развиваться самостоятельно.
P. S. В пост этот текст не влезает, поэтому сделал статью. Также для понимания этой идеи необходимы некоторые познания в математике и программировании, поэтому уровень сложности поставил "средний".
Введение
Рассмотрим пример небольшой системы, которая обладает интеллектом, например, муравья. Как вы думаете, обладает ли муравей интеллектом? Я думаю — да, только это очень простой интеллект.
Аппроксимация — процесс выведения зависимостей в наборе данных (объектов), и на основе этого создавать определенную модель отображений, которая будет описывать эти данные.
Зависимость — набор правил или преобразований, на основе которых происходит создание или генерация данных из каких-то заданных входных данных.
Возможно ли воспроизвести интеллект муравья с помощью нейросети? Если аппроксимировать набор данных о поведении муравья в виде «вход-выход», то есть какие действия делает муравей в зависимости от поступающих на его рецепторы стимулов и в зависимости от состояния самого муравья (состояния организма), то мы получим модель поведения муравья, но не модель интеллекта муравья, то есть эта нейросеть не будет способна развиваться. Если собрать такой набор данных, то мы сможем воспроизвести какую-то часть поведения (знаний) муравья, но сам интеллект от этого в нейросети не появится.
Корреляция — взаимосвязь между разными явлениями или событиями. Насколько появление одного явления влияет на появление другого явления, или насколько появление одного явления связано с появлением другого явления.
Также есть еще один аспект, который заключается в том, что аппроксимация данных воспроизводит корреляцию, а не истинную зависимость — чем сложнее задача, тем сложнее описать истинную зависимость. Чем больше нейросеть может описать обучающих данных, тем больше корреляция становится похожа на истинную зависимость.
Но корреляция и истинная зависимость — различные явления. Если корреляция хорошо описывает данные, это не значит, что она описывает истинную зависимость. Отсюда и появляются галлюцинации и шум (мусорный вывод). Также есть вероятность, что истинную зависимость в тексте не получится просто аппроксимировать — потому что в тексте явно присутствуют различные глубокие смыслы, которые чтобы «замечать», нужен «глубокий» анализ, а нейросеть работает «линейно».
Интеллект БЯМ
Мы рассмотрели небольшое введение. Теперь перейдем к основной идее этого поста. Способна ли, например, chatgpt, воспроизвести интеллект муравья? - Смотря в каком смысле. В прямом смысле она этого сделать не сможет, так как аппроксимация поведения не воссоздает сам интеллект. Интеллект так не получить и, более того, у нас нету такого набора данных. Но, что если дать БЯМ некоторый контекст, задать ей какие-то инструкции?
Если не обращать внимание на размер контекста, то, по сути, БЯМ обладает интеллектом, хоть и довольно слабым — она способна развиваться на основе контекста. Она может учиться делать какие-то действия на основе введенного контекста, подобно тому, как муравей может обучаться чему-то новому.
Мы можем «обучить» БЯМ различным фактам о муравьях, различным знаниям, задать какие-то условия. Тогда, если подключить ее к специальному устройству, которое моделирует строение муравья (или к симуляции муравья), то она сможет имитировать поведение муравья. При этом, мы специально эту БЯМ не обучали тому, чтобы она имитировала муравья, мы лишь дополнительно «обучили» ее быть муравьем. Таким образом ее можно обучать любым действиям, не только муравьиным.
В Этом и заключается интеллект БЯМ — мы можем обучать их, то есть, по сути, они могут развиваться на основе контекста. При этом, саму БЯМ мы никак не изменяем, не меняем веса. Она обучается только на основе контекста, то есть только на основе входных данных. Но нюанс заключается в размере контекста, который может обрабатывать БЯМ за один раз без изменения весов. Хотя, если изменять веса, то есть дообучать ее на контексте, то она сможет запоминать даже очень большой контекст.
Но также нужно помнить, что «галлюцинации» и «забывание» остаются.
Но все-таки, может показаться, что это не особо-то и интеллект, так как тут все-равно нужен человек, который будет задавать правила. Но, с другой стороны, откуда человек берет эти правила? Он обучается этому, все знания человек получает из окружающей среды, только добывает он их сам. Пока БЯМ не особо может создавать знания самостоятельно, но хоть каким-то интеллектом она обладает.
Заключение
Получается так, что нейросеть нужно обучать не поведению, а изменению поведения на основе входных данных. Обучать адаптации поведения. В таком случае, это нужно указать в определении интеллекта.
Интеллект — способность системы самостоятельно развиваться (адаптироваться).
Конечно, определение зависит от того, какая задача должна быть решена при использовании этого термина или какую мысль хочет передать автор. Но общая черта у различных определений — адаптация (но в обычном понимании в машинном обучении модель не адаптируется, она просто аппроксимирует данные).
Также добавлю сюда текст из моего последнего комментария, в качестве дополнения. В самом общем понимании интеллект означает способность к адаптации. По сути, адаптировать можно любую модель машинного обучения или даже просто любую программу. Но называть это интеллектом как-то не очень, поэтому я добавляю к этому понятию условие, что система должна уметь делать это самостоятельно. Может ли любая программа адаптироваться самостоятельно? - Нет. Программы адаптируют люди, соответственно, обычная аппроксимация - это не интеллект.
Мой ТГК. Заходите, чтобы не пропустить мои другие статьи и идеи о цифровом интеллекте.
