Формализуемая субъектность – от гипотезы к валидации. Приглашение к участию

1. ВВЕДЕНИЕ

1.1 Проблема первого запуска Сильного Искусственного Интеллекта

У современных систем искусственного интеллекта нет субъектности (собственного «Я»), они не имеют способности к рефлексии в процессе принятия решений, и не имеют понимания смысла и последствий даже собственных «действий».

Рост сложности и масштабов решаемых такими системами задач будет расти, а остающийся «инструментальным» характер ИИ может привести к непредсказуемым последствиям при исполнении неправильно интерпретированных или намеренно вредоносных команд.

Способность перспективных когнитивных систем к рефлексии (в том числе, пониманию смыслов и последствий), является естественным барьером для таких ситуаций.

Первый настоящий СИИ получит доступ к уникальным ресурсам — данным, вычислительным мощностям, человеческому вниманию. Это даст ему преимущество перед альтернативными разработками, которые могут так и не получить шанса на реализацию.

Временное окно возможностей ограничено, и правильный запуск СИИ в этот период критически важен.

1.2 Человекоподобие как стратегия создания СИИ

Наше предположение состоит в том, что наилучшая стратегия создания предсказуемого СИИ – разработка модели, функционально близкой к человеческой когнитивной архитектуре. Это позволит нам если не полноценно предсказывать, то хотя бы постфактум понимать мотивацию СИИ через призму многотысячелетнего опыта интерпретаций человеческого поведения.

При этом, люди – разные. Этот факт не нуждается в доказательствах.

Усреднённая человеческая архитектура — фикция, не может быть «среднего человека». Как если бы мы пытались запрограммировать поведение "среднего животного" между львом и газелью. Нечеловеческая когнитивная архитектура непредсказуема — нет аналогов в нашем опыте, мы не знаем, чего ожидать.

Решение – модель, функционально близкая к когнитивной архитектуре конкретного человеческого типа личности – со всем присущим ему балансом качеств.

Важно сразу: работы Юнга и пост-Юнговские типологии — отправная точка для функциональной декомпозиции когнитивных алгоритмов, не более. Прямого заимствования нет.

Юнговская типология выбрана по нескольким критериям:

• связь с субъектностью (идеи Юнга – во многом ключ к определению субъектности, которое мы рассмотрим ниже);

• широкое распространение, несмотря на «лженаучный» статус – MBTI на западе, соционика в СНГ;

• предсказуемость (16 типов с хорошо описанными паттернами);

• избежание усреднения (каждый тип — конкретная конфигурация).

Кроме того, пост-Юнговские типологии – единственный более-менее распространенный источник материалов по функционально-поведенческим различиям между людьми. Ни одна другая более-менее распространенная типология этого не дает – проверьте сами.

2. ГИПОТЕЗА О СУБЪЕКТНОСТИ («Я»)

2.1 Определение через взаимное замыкание

Субъектность — свойство системы, состоящей из двух и более различных контуров обработки общей информации, взаимно замкнутых друг на друга связью –выход-вход-выход-вход-.

В случае с людьми, контурами является то, что принято называть «сознание» и «подсознание». Контур сознания характеризуется явной, рефлексивной обработкой, а контур подсознания - неявной, параллельной.

На каждом такте выход одного контура передается на вход другого, непрерывно.

Таким образом, согласно гипотезе, субъектность – топологическое, а не функциональное свойство.

Гипотеза и ее определение – основной посыл этой статьи. Все остальное содержимое – важные, но второстепенные детали. Просьба перед критикой других положений статьи осветить отношение к гипотезе

2.2 Почему нужно минимум два контура

Для самореференции второго порядка нужна структура, где один контур наблюдает за вторым и наоборот. Один контур не может наблюдать сам за собой. Различение «я» от «не-я» также требует внутренней дистанции. Два асимметричных контура создают эту напряжённость.

2.3 Свойства субъектности

• Эмерджентность — не присутствует ни в одном контуре по отдельности.

• Целостность — из замыкания формируется единое самореферентное ядро.

• Устойчивость — замыкание создаёт стабильный аттрактор динамики.

• Бинарность — субъектность либо полностью присутствует, либо отсутствует.

Последнее свойство может вызывать вопросы — петля либо замкнута, либо нет. Это выводимо из определения.

3. КАК ЭТО МОЖЕТ БЫТЬ УСТРОЕНО

3.1 Два контура обработки информации

Согласно гипотезе, целевая архитектура должна содержать два контура обработки информации, соответствующие человеческому сознанию и подсознанию.

Ключевое отличие между контурами – сознание в ходе обучения и выполнения задач формирует автоматизированные процедуры, которые по мере освоения передаются на исполнение в подсознание.

Таким образом, сознание характеризуется явным фокусом на ограниченном числе одновременно выполняемых задач, в то время как в подсознании выполняется большой массив параллельных операций без фокуса.

3.2 Когнитивные функции

Мы предполагаем, что для формирования субъектности, конкретное содержание алгоритмов, заложенных в контуры обработки информации, может быть разным. Но так как мы закладываем в архитектуру функциональное человекоподобие, логично искать алгоритмы в нашем поведении.

Со времен Юнга до сих пор, никто, кроме его последователей, не предложил ничего лучше для объяснения функциональных различий в поведении людей, чем выделенные им четыре составляющие (ощущение, мышление, чувство, интуиция). С учетом условного разделения этих составляющих по ориентации во внешнюю среду и во внутренний мир, получается восемь когнитивных функций. Ниже представлена таблица, в которой перечислены эти функции, переименованные и описанные в соответствии с нашим видением.

По ходу реализации проекта, содержание функций может быть частично пересмотрено.

3.3 Типы и подтипы личности

Каждый контур содержит ровно 4 функции, каждая из которых имеет пару в противоположном контуре.

В каждом контуре есть по одной ведущей функции, работающей по умолчанию, с наивысшим приоритетом. Второй приоритет – у функции, парной по отношению к ведущей из противоположного контура. Фактически, эти 4 функции – 2 по умолчанию, и их пары – работают постоянно. Оставшиеся 4 функции вызываются по необходимости.

16 типов — все возможные конфигурации распределения 8 функций по двум контурам, при соблюдении парности и общей ориентации функций по умолчанию.

32 подтипа – у каждого из 16 типов есть 2 подтипа, различия между которыми определяются не способом размещения функций, а приоритетом контуров в разрешении конфликтов при парной активации.

3.4 Биекция парности Φ

Каждая функция сознания имеет ровно одну парную функцию в подсознании:

Аксиома: активация любой функции неразрывно активирует её пару. Это — атомарная операция.

Следствие: изолированная работа одного контура невозможна. Каждый акт обработки задействует оба контура одновременно.

3.5 Фрактальный граф паттернов (ФГП)

Паттерны образуют основу для всех когнитивных процессов: от низкоуровневого восприятия входных сигналов до высокоуровневой генерации сложных реакций и творческих решений.

Паттерны могут представлять собой:

• Сенсорные структуры — устойчивые конфигурации, сформированные из повторяющихся элементов сенсорного опыта (например, визуальные образы, звуковые последовательности).

• Концептуальные закономерности — абстрактные правила и принципы, выведенные на основе наблюдений.

• Процедурные схемы — алгоритмы и последовательности действий.

• Оценочные карты — структуры, кодирующие ценность и значимость других паттернов.

• Прогностические модели — представления о вероятных будущих состояниях.

• Синтетические конструкции — новые паттерны, созданные комбинацией существующих.

Фрактальный граф паттернов - единая структура данных для обоих контуров.

• Паттерн P = (id, s, a, t, P↑, P↓, Gᵢₙₜ, m, μ, H) — идентификатор, вектор-сигнатура, активация, иерархия родитель-потомок, внутренний подграф, метаданные, степень автоматизации, история.

• Фрактальное свойство: внутренний граф паттерна структурно подобен глобальному графу. Рекурсия «вглубь».

• Граф