Мои сообщения из темы "наше будущее", реферативный материал

Сознание/мышление человека принципиально иной природы, нежели "существующие ИИ [предполагаемые к развитию] до уровня AGI (интеллекта человека)". Возможно, потратив годовые гигаватты нескольких городов на обучение, "ведущие специалисты" смогут создать одну имитацию [с персонализирующими вариациями].

Почему невозможно сознание человека у Искусственного Интеллекта 

1. Физика вынесла сознание за пределы материального мира (см. 6 главу "Мат. основ квантовой механики" фон-Неймана) в части рассуждений про необходимость "абстрактного  я". Сознание есть разделение альтернатив в квантовой системе.

В этом мире нет физической причины осознания конкретной альтернативы в суперпозиции состояний, в которой находится вселенная. Один из создателей теории декогеренции W.Zurek сказал "full account of collapse involves ‘consciousness’, and may have go beyond just mathematics or physics." ("Полное описание коллапса включает "сознание" [т.е. почему мы осознаём что-то конкретное, хотя с т.з. физики - не должны], и, может выходить за рамки просто математики или физики").  

Поскольку, как минимум, существующие системы ИИ не являются квантовыми в отличие от биологических систем, где квантовая природа процессов необходима для, например, фотосинтеза, то самосознающее мышление, как высшая реализация подобных процессов, по своей природе кардинально отличается от систем ИИ. (см. теории квантового сознания)

2. Физико-математическое опровержение так же рассмотрено в лекциях и книгах нобелевского лауреата по физике Р.Пенроуза "Тени разума. В поисках науки о сознании", в которых он опирается на теоремы К.Гёделя "О неполноте", как на доказанные ограничения в "обнаружении истин" в формальных арифметических системах, к которым относятся существующие ИИ. Обзор темы можно в изложении Панова . Хотя выводам Пенроуза пытаются регулярно возражать, он так же регулярно отвечает на возражения и объясняет что не понимают оппоненты.

3. Экстрасенсорное возражение (9-е возражение Алана Тьюринга в работе "Могут ли машины мыслить"), где он предположил на основе доказанных способностей человека к экстрасенсорному (т.е. к небиологическому или нефизическому в смысле материализма 19-го века) восприятию и действию, что мышление человека как относится к экстрасенсорной природе, т.е. обладает нефизическими свойствами.

4. Физиологическое - нейросеть ГМ организована иначе, там нет центрального тактового процессора, векторов и матриц располагаемых в памяти последовательного доступа и послойной обработки. Каждый нейрон работает относительно независимо, как самостоятельный организм, но при этом весь процесс работы миллиардов нейронов  синхронизирован глобально, что, опять же указывает на квантовую когеренцию, а рассинхронизация в глобальном смысле (например при общей эфирной анестезии) приводит к потере  самосознания личности, ощущения и памяти о боли и т.п., хотя сами по себе отдельные области мозга продолжают работать и обеспечивать жизнедеятельность "тушки".

5. Колоссальная, в несколько порядков разница в энергопотреблении косвенно указывает на иную организацию и природу мышления человека . 

Фактически, из-за гипер-финансирования сейчас на слуху просто волюнтаристская позиция некоторых "лабораторий и специалистов" которые прямо заявляют, о своей вере, в то, что формальных арифметических систем достаточно для существования сознания. На что, кстати обращает внимание К.Анохин, что это ненаучный подход. Каких экспертов, какие лаборатории финансируют, такую реальность они и педалируют, порождая ограниченные теории для ограниченной проверки и т.п. 

Что меня здесь беспокоит - что многим людям могут внушить, что имитация есть оригинал, что породит соответствующую социальную практику - от прав роботов и насильного переселения в виртуальные миры (сначала любимых животных и отвратительных преступников конечно), до передачи всех институтов познания (в т.ч. отсутствие обучения и поиска талантов) и управления социумом - этому самому ИИ. Поскольку до определённого уровня он будет показывать равенство или превосходство над человеком в познании и принятии решений. Вся немеханическая реальность, выражаемая в гениальных догадках или спасающей людей интуиции - будет отброшена на обочину.
...

[Не стоит] путать реальность и её имитацию. Живое и мёртвое. Человека и механическую куклу. "Переселение" в компьютер будет равнозначно сохранению видео о человеке вместо сознания человека. Это может быть сложное видео, скомпонованное и огромного множества статистически достоверно тасуемых видеофрагментов, создающих иллюзию живого человека. Но это будет всего лишь видео, иллюзия. Впрочем, для многих внешних наблюдателей - достаточно точно имитирующая движения и реакции человека, чтобы запутать и соблазнить на самоубийство в стиле сериала "Upload".  
...

Вето [на сознание у ИИ] способны понять те, кто понимает отличия между классическим и квантовым описанием реальности. Между классическим и квантовым компьютером. Понимает, почему bit-ами невозможно имитировать qbit-ы, и почему классический компьютер может лишь до определённой степени имитировать работу квантового. Почему двумерными проекциями невозможно воссоздать трехмерный объект, хотя через них можно понять некоторые закономерности движения трёхмерного. Для внешнего наблюдателя можно имитировать движение на двумерной проекции трёхмерного объекта, но это будет "мёртвой" имитацией в смысле истинной мерности источника проекций. Двумерная эволюция векторов и матриц возможна, но это не имеет отношения к человеческому сознанию.
 ...

Cуществующие ИИ, для которых некоторыми предполагается 10-15 лет до AGI - это именно классические компьютеры, машины Алана Тьюринга, формальные арифметические системы.

Квантовые ИИ - это в общем-то мечты без конкретных прогнозов. Которые непонятно когда появятся в полезном виде. И непонятно, в какой форме. Потому что на текущей "механике" существующих малокубитных прототипов квантовых компьютеров квантовость удерживать чрезвычайно трудно. Практически экспоненциальный рост трудностей с каждым следующим кубитом в общей системе.

Поэтому, исследования и реализация потихоньку смещаются по дорожке "жизни" намеченной Шрёдингером в статье "Что такое Жизнь" - от выращиваемых кристаллов и до нейронов сращиваемых с кремниевыми схемами.

Я уверен в том, что, в конце концов, выяснится, что биологическая жизнь - наиболее эффективная форма реализации сложных квантовых процессов, выбранная природой перебором с уровня элементарных частиц в процессе эволюции в течение миллиардов лет.

И сознание может реализовываться только на биологическом носителе. У которого, как я сказал в своём первом сообщении - совсем иная природа. И возможно, что и квантовый уровень - не последний необходимый для реализации полноценного квалитативного сознания.