Мечта о создании сильного ИИ, который был бы подобен человеку в его интеллектуальных возможностях, сейчас базируется на некоторых частных успехах искусственных нейронных сетей (ИНС). Безусловно, можно признать, что успехи эти впечатляют, что Альфа-зеро, обучаясь самостоятельно, обыграла лучших представителей людей в игре Го, что большие языковые модели, кажется, способны давать осмысленные ответы на поступающие к ним вопросы, что ещё немного и будет достигнут перелом, когда благодаря увеличивающейся мощности ИНС начнут достигать и даже превосходить людей. Однако, такое ожидание несколько преждевременно. 

Человек, в отличие от любых современных ИНС, обладает некоторым неформализуемым качеством - феноменальными ощущениями. Это все виды наших чувств, переживаний "каково это", которые не передаются знаками, а на знаках только и работают ИНС.

Конечно, можно описать некоторое феноменальное ощущение через последовательность знаков, но вот это описание невозможно преобразовать обратно в ощущения, если нет для этого специального устройства. Так, при получении сигналов извне на сенсоры фотоматрицы, происходит их преобразование в последовательность знаков - 1 и 0, которая далее подвергается передаче, обработке и выводу на монитор, где снова обретает вид, который представляется нам, как способный передать феноменальное качество - цвет.

Здесь важно понимать, что самому компьютеру никакие качества цветоощущения недоступны, потому что монитор сделан не для ощущения компьютером цвета, а для человека, который способен такие чувства переживать. У компьютера нет операций с феноменальными качествами, а есть лишь обработка последовательностей из 1 и 0 по правилам, которые заложены программно и аппаратно.

Следовательно, при любых манипуляциях на компьютере, эмулирует ли он ИНС или осуществляет иные обработки, вся феноменальная часть, доступная нашему интеллекту, оказывается упущенной, а в нашем интеллекте феноменальные ощущения играют важнейшую роль - благодаря им мы обладаем пониманием того, что нам представлено хоть в натуральном виде, хоть в виде иносказания в виде текстов. По сути своей, наше понимание есть обладание одновременно практическим опытом и абстрактным описанием об некотором предмете изучения, а весь практический опыт даётся нам в виде феноменальных ощущений "каково это" - заниматься данным предметом, изучать его, знать о нём. 

До тех пор, пока ИНС будут заниматься только обработкой абстрактных символов и вычислять изменение их отношений, и пока в них не будут интегрированы феноменальные ощущения в виде некоторой специальной системы, оперирующей внутренними состояниями и построениями из них, до тех пор ИНС не станут подобными нам в интеллектуальных возможностях, будут "мыслить в темноте", не будут обладать пониманием того, что, и о чём они "мыслят" и говорят.

Вопрос внутренних свойств, а для нас это все феноменальные ощущения, стоит на передовой теоретической науки о сознании - трудная проблема сознания, и материи - проблема внутренних свойств материи, которые так же неизвестны. Для признания важности внутренних феноменальных свойств во всех этих проблемах, многим исследователям не хватает аргументов в пользу их этой важности, в пользу необходимости принятия их для рассмотрения и включения их в осмысливаемые ими процессы. "Для описания процессов и функциональных систем сознания внутренние свойства не нужны - достаточно формализовать систему отношений", - говорят многие из них, и продолжают стараться через функциональное описание найти решение трудной проблемы сознания, получить сильный ИИ. Однако внутренние свойства - это то, что невозможно выразить через описание, через систему отношений, а значит, чтобы добиться значимых результатов и получить человекоподобный интеллект, придётся научиться расширить вычислительную систему с помощью внутренних свойств, вписать их в систему функциональных вычислительных отношений и связей.

Попробуем раскрыть то, как должна была бы выглядеть ИНС человекоподобного интеллекта, как должно быть устроено искусственное сознание, чтобы достичь схожих с человеком способностей, и сделаем это на примере рассмотрения развития самого человека и с учётом феноменального наполнения его сознания.

Наше сознание построено на обработке сигналов от внешней и внутренней реальности, но вопросы обработки внутренних сигналов пока для нас не так важны.

1. сенсорная часть от зрения, до вестибулярного аппарата, с учётом передачи сигналов;
2. феноменальная часть, где в "пространстве внутренних состояний" формируются чувственные ощущения в виде разноразмерных нейронных (какие именно нейроны неизвестно) моделей, главное свойство которых - это непосредственное использование внутренних свойств материи, строятся модели чувственных представлений на внутренних свойствах. Как результат таких построений мы имеем систематизированные чувства: зрение, слух, нюх, вкус, тактильные и вестибулярные ощущения. Все эти отдельные модели чувственных восприятий построены с использованием феноменальных внутренних свойств, но это не значит, что при этом не используется некоторый функционал. Различие функциональных знаковых и символьных формальных систем, от функциональных систем, в основе которых лежит обработка и построения из внутренних свойств, в том, что результатом первых является некоторый бескачественный функционал, а результатом вторых является качественное ощущение. Т.е., в одном случае внутренние качества не важны, а во втором - существенны. Мы считаем, что в обоих случаях функционал осуществляется благодаря внутренним свойствам, но в первом качества отметаются и остаётся только формально-логическая выжимка, а во втором важен приоритет внутреннего содержания, а функционал остаётся "в тени". Первый случай, где качества не важны, - это то, что происходит "в темноте", а второй, где качества важны, - это то, что происходит "на свету".
3. отправка копий сигналов от сенсоров или новых сигналов, уже от феноменальных моделей, в когнитивную систему, которая есть набор разноразмерных нейронных систем, главное свойство которых заключается в виде схем, реализующих логические вычисления, построения и обработки, где более важны формальные отношения, "абстрактное", величины внутренних свойств и их отношения, а не сами внутренние свойства. Когнитивная система и есть такая, которая абстрактно обрабатывает любые другие значения, будь то качественные или количественные, знаковые. Современные ИНС являются, в данном понимании, только когнитивными системами и они напрочь лишены качественного содержания, потому что всё качественное содержание перед обработкой ИНС вытравливается переводом в абстрактные последовательности 1 и 0.
4. система ассоциаций (связей) которая формируется на один раздражитель (некий объект представленный в разных чувствах) между разными феноменальными моделями и когнитивными обработками - так формируется устойчивый образ как совокупность разных чувственных ощущений, и различные абстрактные (текстовые) описания, ассоциативно сопровождающие данный образ. Система ассоциаций пронзает всю когнитивную систему (КС) изнутри, что позволяет извлекать на любом участке когнитивной деятельности связанный "призрак" образа, чем последний становится доступен феноменальной системе (ФС) изнутри, т.е. он "появляется", намечается в сознании, а это способствует пониманию, т.е. обнаружению связанности феноменальных ощущений с абстрактными текстами, мыслями.
5. обратные связи, закольцованность: когда образ сформирован, то сигналы о нём идут и вперёд, для обработки в КС, так и назад, в ФС, где через "призрачное" (не извне, не от сигналов сенсоров) феноменальное восприятие получается понимание описания. Однако, ещё существуют закольцованности и через внешнюю реальность, например, когда произносимое выражается в виде звука, а затем попадает в слух и возвращается, но не через внутреннее кольцо, а через внешнее.

Больше всего обратные связи представлены в языке. Язык формируется одним из последних, когда все обычные конкретные и абстрактные связи уже практически налажены.

Язык - это необычная вторая абстрактная система над обычными абстрактно-конкретными связями образов. Этим человек значительно отличается от других животных, которые не имеют такой развитой и сложной системы абстракций, как язык. Обычные связи позволяют разнообразно действовать в реальности, при непосредственном контакте с объектами, иметь некоторые отвлеченные образные представления и неглубокое планирование, что ограничено высокой ёмкостью образов,

Язык значительно облегчает глубину проникновения, длительность рассуждений и планирования, за счёт сильного облегчения нагрузки на КС и ФС, при переходе от мышления образами к мышлению привязанными к образам чистыми абстракциями - знаками и символами. Образное мышление ограничено теми образами, которые имеются, и выход за их пределы является сложным занятием - чаще всего это заимствование некоторых свойств других себе - представление полёта как птицы или плаванья как рыбы, или же комбинирование частей образов разных известных объектов в новый абстрактный объект образной мысли - фантазии: кентавры, сирены, грифоны, единороги и т.д. С помощью языка такие метаморфозы можно проделывать в символьном виде, играя словами совершенно на другом уровне, сочиняя новые слова и их комбинации, выдумывая совсем невероятные действия с помощью последовательностей слов, а затем наигранное в словесных фантазиях превращать в образы.

Язык, как и другие когнитивные абстрактные обработки, где качества не так важны, идут "в темноте", т.е. недоступны напрямую в феноменальной части сознания. Если бы так и оставалось, то нам не были бы доступны результаты мыслительной деятельности, не нужен был бы язык. Однако у нас, за счёт обратных связей, возникает феномен "проговаривания", ассоциативного представления, воображения того, о чём мы говорим, того, о чём мысль. Вкус, нюх, зрение, тактильное ощущение не обладают настолько сложной системой обратных связей ввиду того, что речевой аппарат очень значительно повышает абстрактные возможности через производство разных звуков, которые попадают обратно в ухо, и замыкает слух и озвученное в кольцо. Все остальные чувства тоже можно усложнить через создание запахов, картин, танца, массажа, приготовления пищи, но это всё появляется довольно поздно, а вот речь и слух с рождения сразу замкнуты в кольцо.

Здесь видится сложная система обратных связей. 

Сигнал от сенсоров (ухо, слух): после рождения слух работает сразу; производится анализ поступающих сигналов и построение звуковой "карты", "словаря" звуков для различения с помощью их окружающей обстановки. Это прямая обработка без петель обратных связей.

Вместе с этим происходит увязка своих звуков, тех, которые производятся самим младенцем; они отделяются от внешних звуков, через обнаружение возможности самому модулировать звуки произвольно - петля самоконтроля: говорение-слух-обработка, коррекция-говорение, слух-проверка-коррекция. Так формируется другая карта звуков, которые удаётся воспроизвести самому; часто возникает подражание младенцем внешним звукам - система узнаёт - "а что я могу, что в моих силах произвести".
Это первый "круг", который возникает между слухом и речевым аппаратом. Он пока не связан с абстракциями, а более всего направлен на выявление возможностей своего речевого аппарата и на оттачивание его способностей для генерации звуков. После формирования этого первичного круга коррекции-проверки (или в процессе) начинается построение абстрактных связей как результата повторения своих последовательностей звуков в ответ на звуки речи окружающих людей.

Зрительные ощущения похожим образом связаны контрольным кольцом с непосредственными действиями - дети бросают предметы, ломают и т.д., чем создают карту возможных действий, выход за которую вызывает удивление и дополнительное изучение. И другие чувства закольцованы через реальность в виде "производство действий, и результат - изменение в реальности". И эти чувства можно сильно усложнить, если изучить язык тела, язык жестов, язык музыки или иную форму абстрактного общения через конвенциальное иносказание. С помощью речи это сделать проще всего.

При формирования речи производится ассоциирование звуков речи - фонем-слов, а далее и знаков - с образными представлениями. Так, сперва ребёнку показывают некоторый предмет и говорят слово, которое ребёнок слышит многократно, повторяет, совершенствуя произношение через доступное рече-слуховое первичное кольцо коррекции. После освоения слова, которое ассоциативно связывается с некоторым объектом, происходит освоение других слов. Как правило, сперва это только существительные, но существуют и другие, например, "дай". 
Накопление словаря происходит быстро. Следующая ступень - это глаголы, описывающие действия, то, что делают папа и мама, бабушка, кошка и т.д.. Фонетический словарь действий также, как и словарь существительных, формируется через связывание, но уже не с образами объектов, а с образами действий этих или иных объектов. Остальные формы - местоимения, союзы и т.д., достраиваются в словарь параллельно, завершаемый, как правило, через возникновение понятия "я".
Вместе с накоплением словаря начинаются попытки построения предложений, которые уже описывают последовательность многих действий и многих объектов. 

Только потом, после освоения фонетической речи, осуществляется переход к знаковому письму, что производится через второе языковое кольцо - звучание слова переводится в написание слова с помощью знаков. Это кольцо также замкнуто через реальность, но через действия рук и пальцев и зрение, через выражение звуков слов написанием букв или символов и контроль с помощью глаз. Особенности и подробности нас здесь не интересуют, потому что мы стремимся выявить основные отличия нас и текущего ИИ.

Здесь уже видно значительное отличие возникновения системы наших словесных построений, от системы построений больших языковых моделей - мы строим язык на основе накопленного опыта образного представления реального, которое есть суть феноменальное, а не перелопачиваем с рождения миллионы примеров словесных текстов "в темноте", не пытаемся предсказать следующий токен. 

Почему же нам феноменально доступны все результаты сложных словесных абстрактных построений, которые для ИИ "идут в темноте"? Они доступны нам через кольца коррекции и ассоциации - связи абстрактных и образных представлений. 

Сперва, до крепкого усвоения языка, когда мы производим мысль, то формируем последовательность образов и действий образов, и нам здесь уже доступен феноменальный "результат", который мы затем только переводим в символьный вид - озвучиваем в виде последовательности слов - это начальный уровень образно-абстрактного мышления. 
Но когда мы переходим на другой уровень, когда мы начинаем мыслить в основном через последовательность слов, то смысл их нам становится доступен только в результате обратного "перевода" абстрактного мышления в набор образов - это другой, абстрактно-образный уровень мышления. 

Образы возникают неизбежно, сопровождают наши мысли через накопленные ассоциации, а потому мы не мыслим "в темноте", постоянно имея некоторое образное сопровождение мыслей. Машинам же вообще недоступен образный подход, образный способ мышления и представления - у машин только абстрактно-абстрактное "мышление в темноте", статистическое, без какого-то намёка на образность, представление и понимание своих "выводов". Образное мышление целиком основано на феноменальных ощущениях, на моделях, построенных на внутренних свойствах, качествах, на том, чего у современных систем ИИ нет и в помине, потому что их никто не принимает в расчёт.

Мы же, даже при мышлении абстрактными словами (не вслух), которые не имеют чётких сопровождающих образов, всё равно обладаем их феноменальным сопровождением в виде "призраков" ощущений гортани, речевого аппарата, где обозначается произношение без его фактической модуляции, через слабые сигналы на произношение. Это известный факт. Слабые сигналы, хоть и не активируют мышцы речевого аппарата, возвращаются через внутреннее кольцо коррекции, в результате чего мы как бы "призрачно" слышим мысль, через связь слухового ожидания на такую "активность" мышц речевого аппарата.

Вывод.

Те ИНС, которые существуют сейчас, ни в каком виде просто не способны к проявлению сознания или интеллекта, подобного человеческому. Это связано с игнорированием феноменальной части человеческого сознания и интеллекта. Благодаря феноменальному опыту мы обладаем особым видом не текстового знания, которое позволяет понимать тексты иначе.

Пока ИНС лишены феноменального в своих моделях, они лишены и возможности понимать. Как можно построить искусственные феноменальные системы - это уже не теоретический, а практический вопрос, который уже более-менее становится понятно как решать.

Такое представление, которое показано здесь через сравнение нашего сознания и наших речевых способностей с большими ИНС языковыми моделями, объясняет крайнюю важность феноменального сознания и учёта внутренних свойств для построения действительно сильного ИИ, искусственного сознания, приближенного к человеческому.

Без учёта внутренних свойств и феноменальной части сознания, мы вынуждены будем пытаться достичь ИИ с помощью всё большего увеличения вычислительных мощностей ИНС моделей, повышения количества их параметров, но это никак не оградит нас от возможности ошибок непонимания ИИ. Эти ошибки будут связаны с тем, что мы сейчас не пытаемся добиться у ИИ понимания, схожего с нашим, которое основано на сочетании описания с феноменальным опытом, а пытаемся всего лишь построить супер-пупер калькулятор без учёта необходимости внутреннего содержания.

Всё это происходит от игнорирования феноменального аспекта сознания, от нежелания принимать в расчёт внутренних свойств, от слепой веры во всемогущие возможности современной науки, которая построена на формальных вычислениях, а потому и из-за веры в то, что вычисления нам воссоздадут также и сознание. Однако за этими вычислениями, которые несомненно важны, мы упускаем человека, его внутреннее богатство, его внутреннюю суть, которая есть выражение внутренних свойств материи, Вселенной.