Александр Болдачев. Эссе: мифы и тупики искусственного интеллекта

Информация
Год написания: 
2020
Философские проблемы информационных технологий и киберпространства №2(18), 2020, — C. 7-37. 27-41. DOI 10.17726/philIT.2020.2.3
Систематизация и связи
Натурфилософия
Философия науки и техники

Аннотация. В тексте сделана попытка проанализировать философские основания самой идеи создания и практики реализации искусственного интеллекта через сопоставление по аналогии с гипотетическим концептом «искусственная жизнь». Продемонстрирована логическая и концептуальная несостоятельность распространенных определений искусственного интеллекта. Предложено понимание интеллекта как исключительно природного способа решения задач, а не как общей функции, которую можно реализовать на базе других технологий. Сделан вывод о нецелесообразности прямой замены человека на устройства с искусственным интеллектом без принципиального изменения базовых принципов организации деятельности. Обосновывается сомнительность идеи создания общего искусственного интеллекта, как универсального локального устройства с единой архитектурой, в условиях наличия множества специализированных устройств. Высказано сомнение в эффективности применения эволюционных методов и процедур обучения в проектировании устройств, которые решают задачи, считающиеся интеллектуальными.

Ключевые слова: искусственный интеллект; AGI; задачный подход; естественный отбор; адаптация; обучение.

Essays: myths and dead ends of artificial intelligence

Abstract. The article contains an analysis of the philosophical foundations of the very idea of creating and implementing artificial intelligence via comparison by analogy with the hypothetical concept of «artificial life». The logical and conceptual unfoundedness of common definitions of artificial intelligence is demonstrated. The article offers the understanding of intelligence as an exclusively natural way of solving tasks, and not as a common function that can be implemented on the basis of other technologies. The conclusion is made about the inexpediency of direct replacement of a human with devices with artificial intelligence without a fundamental change in the basic principles of organizing field of activity. The questionableness of the idea of creating general artificial intelligence as a universal local device with a unified architecture in the presence of many specialized devices is substantiated. Doubts are expressed about the effectiveness of the application of evolutionary methods and learning procedures in the design of devices that solve tasks that are considered intelligent.

Keywords: artificial intelligence; AGI; task-based approach; natural selection; adaptation; learning.

 

«Искусственный интеллект»

До того как появилось словосочетание «искусственный интеллект», словом «интеллект» традиционно обозначали ментальную (имеющую отношение к мышлению, к разуму) человеческую способность. И чаще всего при этом имели в виду не бытовое мышление на уровне составления плана покупок перед походом в магазин, а способность человека участвовать в особой интеллектуальной деятельности, что-то типа обладания критическим мышлением, способностью к обучению, сложным логическим рассуждениям, решению проблем. Слова и выражения «интеллектуал», «интеллектуальная профессия», «интеллектуальная задача» считались (да и сейчас считаются) вполне устойчивыми в языке, и с их помощью вполне однозначно выделяются определенная сфера деятельности, ее участники, спектр решаемых проблем. Очевидно, что речь не идет о вождении автомобиля, умении читать, рисовать картинки и сочинять музыку в стиле известных авторов.

Первым понизил планку требований к интеллекту Тьюринг, предложив чисто разговорный тест для его выявления. Согласно условиям теста, интеллектуальным мог быть признан любой необразованный подросток, умеющий более или менее связно поддерживать беседу. (Современные разговорные боты только-только дошли до этого уровня интеллекта [4].) Но как бы ни относиться к тесту Тьюринга, к его уровню и релевантности, он все же был рассчитан на выявление некоторой человеческой способности, подразумевал, что его может пройти мыслящий агент, понимающий вопросы и способный составлять осмысленные ответы на человеческом языке.

Возникшие далее проблемы с пониманием и техническим моделированием естественных когнитивных способностей человека вынудили разработчиков и теоретиков искусственного интеллекта еще ниже опустить планку интеллектуальности – до уровня животных. Теперь в определении интеллектуального агента уже не встретишь слово «мышление», чаще всего акцент делается на восприятии окружающей среды, предпринимаемых агентом действий, которые увеличивают его шансы на успешное достижение целей [1]. От разработчиков искусственного интеллекта сегодня можно услышать заверения, что и амеба демонстрирует вполне интеллектуальное поведение. Можно сказать, что современный количественный рост результатов в сфере искусственного интеллекта получен в большей степени за счет увеличения объема понятия «интеллект», подведения под него практически всех психических функций живого организма. Конечно, глупо отрицать наличие грандиозных технических достижений в этой области, но уровень получаемых результатов еще трудно сопоставить с продуктами интеллектуальной деятельности человека (в исходном значении слова «интеллектуальный»).

Помимо расширения объема понятия «интеллект», а точнее фиксации его на уровне адаптационного поведения животных, встречается еще один способ ухода от ответа на прямой вопрос «так что же проектирует разработчик искусственного интеллекта?». Заключается этот ответ в констатации, что «искусственный интеллект» – это не продукт, не результат проектирования, а наука, исследовательская программа, которой только предстоит ответить на вопрос о сущности интеллекта. Вот известное определение М. Л. Мински: «Искусственный интеллект – это наука о создании машин, способных выполнять задачи, которые требовали бы интеллекта, если бы их выполняли люди» [2]. Мало того, что это определение плохо согласуется с языковой практикой, предлагающей устойчивые правила поименования наук (Cognitive science/ когнитивистика, Computer science/информатика), так оно по сути своей бессодержательно, поскольку не очерчивает границы предмета этой «науки». Мол, решайте сами, для чего требуется интеллект: для решения научных задач или для восприятия окружающей среды с целью повышения шансов на выживание.

Определение Мински интересно и тем, что оно содержит традиционную для области искусственного интеллекта логическую ошибку: приписывание задаче свойства, принадлежащего методу ее решения. Для демонстрации этой ошибки посмотрим, как в предложенной Мински схеме формулировалось бы определение искусственной жизни: ИЖ – это наука о создании машин, способных выполнять задачи, которые требовали бы жизни, если бы их выполняли животные. Получается, что согласно этому определению мы должны такие машины, как самолет, подводная лодка, туннелеройная машина, называть «носителями искусственной жизни», поскольку они прекрасно справляются с задачами, которые до них решали птицы, рыбы и кроты. Так же, согласно исходному определению, мы должны считать интеллектуальным и калькулятор, поскольку он «способен выполнять задачи, которые требовали бы интеллекта, если бы их выполняли люди». Эти примеры показывают нам, что интеллект и жизнь – это все же свойства, характеристики агентов (людей и животных), решающих те или иных задачи, а не имманентные особенности самих задач. Да, есть задачи, которые до некоторых пор решались только биологическими и интеллектуальными организмами, но из этого не следует, что эти задачи не могут быть решены и устройствами, работающими на базе других технологий, скажем, механических. Самолет и арифмометр вполне это подтверждают. Вот и получается, что из того, что животное или человек решает некоторую задачу (летает или считает) с помощью своих животных или интеллектуальных способностей, никак не следует, что решающие эти же задачи машины следует относить к «искусственно живым» и «искусственно интеллектуальным».

Если рассуждения о необходимости различать саму задачу и технологию ее реализации довести до некоторого логического предела, то можно прийти к выводу о принципиальной невозможности искусственного интеллекта (как и искусственной жизни). Ведь, действительно, как только некоторое устройство осваивает функцию, ранее выполнявшуюся только человеческим интеллектом, например письмо, счет, логические рассуждения, то эта функция тут же перестает называться словом «интеллектуальная». Логарифмическую линейку, арифмометр, алгоритмы логического вывода не называют интеллектуальными. Тут опять уместно привести аналогию с моделированием функций живого организма: полет и плавание были когда-то сугубо физиологическими способностями, а с появлением самолетов и подводных лодок стали просто механическими. Этот парадокс известен как «эффект ИИ», наиболее ярко выражаемый теоремой Теслера: «искусственный интеллект – это то, что еще не было сделано» [3]. Но в этом эффекте нет ничего парадоксального, если принять простой принцип, согласно которому живыми и интеллектуальными являются не функции (полет и вычисление), а способы, методы их реализации с помощью сокращения мышц живого организма и нейронов головного мозга. Приняв на вооружение этот принцип, легко избежать неоднозначностей в использовании слова интеллект: надо просить разработчиков программных продуктов заменять слова «искусственный интеллект» на функциональное описание достигнутого или ожидаемого результата: «устройство для выполнения математических операций», «алгоритм логического вывода», «система распознавания изображений», «генератор текстов», «блок автоматического управления автомобилем» и т.п. И очевидно, что в ряду «и т.п.» мы, скорее всего, долго (а возможно и никогда) не встретим устройство с названием «интеллект». Во-первых, потому, что мы так и не можем договориться о том, что это такое, а во-вторых, и что самое главное, потому, что интеллект – это не функция, а то, что обеспечивает реализацию многих функций. Тут опять уместно упомянуть жизнь. Нельзя моделировать жизнь, можно воспроизвести некоторые функции живого организма: синтез белков, бег, полет и т.п. И для этого совсем, ну совсем не нужна «искусственная жизнь».

Заменит ли ИИ человека в его деятельности?

Ответ на вопрос, поставленный в заголовке, казалось бы, очевиден. Ведь различные ИИ-устройства как раз и создаются для того, чтобы решать человеческие задачи лучше человека (далее по тексту, следуя традиции, все же будем обозначать такие устройства аббревиатурой ИИ, при этом помня, что свое название они унаследовали от человеческого интеллекта, не являясь таковыми по своей сущности). Но не все так однозначно и просто.

Рассмотрим проблему замены человека ИИ-устройствами на примере создания беспилотных автомобилей. Итак, есть автомобиль, по всем параметрам подогнанный под сидящего в нем человека. У человека есть глаза, уши, руки, ноги, заученные моторные реакции и, конечно же, мышление. (Рука не поднимается написать, что для вождения авто нужен интеллект, достаточно простого мышления, чтобы сообразить, что к чему и зачем, если возникнет нестандартная ситуация.) Еще есть формальная дорожная инфраструктура – разметка, знаки, правила и пр., предельно подогнанная под человека. А также куча неформальных сигналов, жестов, маневров, которыми водители пользуются для разруливания ситуаций, не предусмотренных в правилах. И поверх всего – снег, дождь, грязь.

Итак, есть человек внутри некоторой деятельности и ставится цель заменить человека в этой деятельности на ИИ. То есть вполне стандартная ситуация: имеется ряд задач, которые прежде выполнял человек, и надо научить «искусственные интеллекты» выполнять эти задачи. Пусть один ИИ распознает знаки и разметку, другой следит за машинами, третий, согласно правилам и ситуации, планирует маршрут, а четвертый принимает решение (думает), если что не так. Чтобы было все как у людей.

Однако стоп. Мы уверены, что правильно сформулировали задачу? Нам прямо-таки надо научить ИИ распознавать залепленные грязью знаки в тумане или наша цель доставить груз или пассажиров из точки А в точку Б? Мы должны решить проблему автоматизации перевозок или автоматизацию управления автомобилем в дорожной инфраструктуре, созданной под человека? Фактически же речь идет о том, что вместо того, чтобы учить ИИ распознавать бессмысленные для него «зебры», «кирпичи» и жесты водителей, надо просто сделать электронную разметку, поставить электронные маркеры вместо знаков на столбах и объединить транспортные средства (а еще и пешеходов) в единую сеть, для согласования их действий. А это уже вполне стандартная задача автоматизации, комплексного управления множеством объектов, хорошо известная специалистам по АСУП и разработчикам игр. По сути, речь идет о том, что нам не нужен ИИ, который будет решать проблемы за человека в сложных дорожных ситуациях, а необходима транспортная система, в которой эти сложные ситуации будут практически исключены. Конечно, это невозможно сделать прямо сейчас, в текущей дорожной инфраструктуре. Этап игры с беспилотными автомобилями, безусловно, надо пройти. Но при этом надо понимать, что будущее не за множеством ИИ, решающих частные человеческие задачи, а за глобальной автоматизацией.

Аналогичная ситуация с использованием ИИ и на юридическом фронте. Вся деятельность в области юриспруденции основана на взаимодействии людей посредством составления бумажных документов и трактовки их смысла людьми же. И многие энтузиасты внедрения ИИ в юриспруденцию ставят задачу заменить человека в деятельности, исходно ориентированной исключительно на человека. Но ведь возможен и другой подход: вместо попыток заставить ИИ читать и генерировать человеческие тексты, чтобы другой ИИ их опять распознавал, можно поставить задачу изменить саму деятельность, максимально исключив из нее человека, заменить человекочитаемые тексты на семантически однозначные машинные модели (меняем грязные знаки в тумане на однозначную для компьютера электронную разметку). Понятно, что задача изменения системы не решается и даже не может быть поставлена локально, на уровне одной юридической конторы, одного проекта. Но вопрос должен быть задан: какова наша конечная цель – заменить человека на ИИ в существующей юридической системе или изменить систему, чтобы минимизировать участие в ней человека, а с ним и ИИ?

Как итог обсуждения темы, можно предложить принцип: если возникла мысль заменить в некоторой деятельности человека на ИИ, то следует задуматься над задачей изменения самой деятельности с целью исключения из нее человека. Или так: не стоит заселять наш мир машинами, не надо сажать за соседнее рабочее место робота, надо просто-напросто убрать это рабочее место.

Общий искусственный интеллект

Выше по тексту обсуждался так называемый узкий, слабый искусственный интеллект, трактуемый как устройство, выполняющее некоторые фиксированные задачи: что-то генерирующий, нечто распознающий, предсказывающий, то есть реализующий программными методами отдельные функции живых организмов и психики человека. И вывод о сомнительности использования термина «интеллектуальный» был сделан именно при анализе реализации этих «узких» функций. Однако в науке, изучающей методы решения задач, ранее доступных только человеку, есть отдельное направление, исследующее возможность создания общего искусственного интеллекта (AGI), который понимается как «гипотетический интеллект машины», способный «понять или изучить любую интеллектуальную задачу, которую может выполнить человек» [5]. То есть делается акцент не просто на «выполнении задач, которые требовали бы интеллекта, если бы их выполняли люди» [2], а на создании некоторого универсального решателя любых задач, по сути, самого «интеллекта» по образу и подобию человеческого.

Обсудим некоторые проблемы, возникающие на пути создания AGI.

В молодости автор данной статьи придумал сюжет фантастического фильма. В некой лаборатории научились предельно искусно делать человеческие тела, внешне – по движениям и на ощупь – не отличимые от настоящих. А вот с начинкой головы, читай с общим искусственным интеллектом, у них никак не срасталось. Тогда нашлось простое решение коммерческого использования этих тел: можно делать внешне безупречные копии людей и управлять ими дистанционно (позже эту идею, хотя и не полностью, реализовали в фильме «Суррогаты»). По сценарию, глава мафии заказывает себе такую синтетическую копию, после чего, реально находясь в аппаратной, может присутствовать «лично» где угодно, не беспокоясь о своей безопасности. В какой-то момент его подрывают, а на следующий день он появляется цел и невредим – понятно, что в виде новой искусственной копии. Но основная фишка сюжета заключалась в том, что к управлению телом было привлечено несколько разных людей. Если босс, вернее, кукла босса садится играть в шахматы, то подключают гроссмейстера, если заводится разговор, требующий широкой эрудиции, то тело переключают на условного «вассермана», а если требуется помахать руками и ногами – то на мастера единоборств. (В финале этот самый мастер, забаррикадировавшись в центре управления куклой, пытается, орудуя ее резиновыми кулаками, освободить себя снаружи.) Надеемся, понятно, какое отношение этот сюжет имеет к теме AGI? Ведь очевидно, что предложенное решение подключать к искусственному телу множество специализированных управляющих устройств на порядок эффективнее, чем использование одних «мозгов» на все случаи жизни. Да, человеческий интеллект более или менее универсален, но эта универсальность вынужденная, она реализовалась только потому, что интеллект у нас один от рождения до смерти и с его помощью нам приходится решать разные задачи (не все одинаково хорошо), а при необходимости доучиваться и переучиваться. Но такого вынужденного ограничения (одно тело – один интеллект) нет в случае искусственного устройства: надо сыграть в шахматы – подключаем специализированную программу, нужен «вассерман» – направляем запрос к IBM Watson и т.д. То есть тут опять надо использовать задачный/функциональный подход к решению проблемы – что нам важнее: получить максимально быстро и эффективно требуемый результат или добиться универсальности от гипотетической машины?

Есть еще один аспект, который зачастую не учитывается при рассуждениях о воспроизведении машиной естественного интеллекта: за универсальность наших мозгов мы расплачиваемся их случайностью и неустойчивостью. Не всякий человеческий ум обучаем – только малый процент людей может быть признан интеллектуалами. Да и те не застрахованы от сбоев: решив одну интеллектуальную задачу в молодости, они до конца жизни могут оставаться интеллектуально бесплодными. И даже те интеллекты, которые сохраняют свои способности до старости, традиционно (за редким исключением) узкоспециализированы: физики, шахматисты, юристы… Не говоря уже о том, что максимально ценные интеллекты, наиболее интересные для исследования с точки зрения AGI, обычно минимально приспособлены к жизни, плохо адаптируются, практически не пригодны для решения задач в различных средах с ограниченными ресурсами. И тут возникает резонный вопрос: нам шашечки или ехать? Нужен ли нам универсальный решатель любых задач или все же следует признать, что человеческий интеллект довольно ущербное, малоэффективное, ненадежное устройство с побочными эффектами и ограниченным жизненным циклом? Тем более с учетом того, что любая технологическая (даже механическая в арифмометре) реализация функции, ранее считавшейся интеллектуальной, работает надежнее и эффективнее, чем на живых нейронах. Далее предлагается обсудить некоторые частные проблемы, возникающие перед исследователями в области общего искусственного интеллекта.

Функция и реализация

Обсуждая теоретические аспекты искусственного интеллекта, мы, по сути, ходим вокруг одной проблемы: соотношение задачи и методов ее решения, связи функции с ее технологической реализацией. То есть ищем ответ на вопрос, что является интеллектуальным: деятельность или методы достижения результата в ней.

Представим такую гипотетическую ситуацию. Ученый годами изучает строение клеток мышц, соединение их с сухожилиями, прохождение возбуждения по волокнам, сочленения суставов костей. И все для того, чтобы решить проблему перемещения биологического тела в пространстве. Ведь именно с помощью этих самых мышц и костей бегают гепарды и летают орлы. И он уверен, что построить искусственное средство передвижения можно только разобравшись, как реализуется это самое передвижение в природных системах. Хотя ситуация и не совсем гипотетическая, а вполне реальная – в итоге проделанной работы появились симпатичные собачки Boston Dynamics. Хотя, тут следует отметить, колесо покатилось лет этак тысяч на пять раньше.

Понятно, что рассказ о клетках мышц и роботе-собаке был приведен с целью задать вопрос: насколько продуктивно изучение строения мозга человека для проектирования искусственного мыслящего устройства, универсального решателя задач? Постигать строение биологического организма, методы природных способов решения задач – перемещения в пространстве, мышления, безусловно, необходимо. Но приведет ли взгляд со стороны технологии, способа реализации к пониманию высокоуровневых функций? Так, например, сколько бы мы ни анализировали последовательность сокращения клеток мышц гепарда, ни замеряли бы углы отклонения костей его конечностей, это не приведет нас к пониманию содержания действия «охота», при условии, что мы не знаем, в чем заключается эта высокоуровневая относительно физиологии функция. Именно в такой ситуации находятся нейрофизиологи, которые, исследуя взаимодействия нейронов, пытаются понять, что такое мышление. Рассматривая соотношение высокоуровневой функции (сложное поведение, мышление) и технологии ее реализации на процессах низшего клеточного уровня, рациональнее предположить, что именно нацеленное на результат действие детерминирует реализацию, а не наоборот. То есть мы опять приходим к выводу, что продуктивным подходом при проектировании любых устройств является точное формулирование задачи, строгое описание функции и результата, а не исследование частного способа реализации (в нашем случае природного).

Здесь опять же уместно отметить, что природные решения (по своей природе) компромиссны и ограниченны. У естественного конструктора был предельно малый выбор. Он вынужден был создавать новые функции на базе уже имеющейся структуры организма, приноравливаясь к ним и приспосабливая их для решения новых задач. Все как в песне: лепил из того, что было. Получалось более или менее ладно, но далеко не оптимально. И это очевидно при анализе технических устройств: созданные на простейших принципах, все они значительно превосходят по показателям свои органические прототипы. Очевидно же, что не для счета проектировался мозг – лишь потом приспособился. Как смог. И первые же специализированные решения, начиная с костяных счетов, сразу же превзошли его в эффективности выполнения элементарных математических операций. А то, что иногда нейроны вычисляют быстрее калькулятора, лишь подтверждает мысль, что там, в голове, не совсем рациональная технология, на которую лучше не ориентироваться при решении прикладных задач.

Естественный отбор и адаптация

Другой, не менее распространенный, чем прямое копирование природных методов, подход к проектированию AGI – это привлечение эволюционных механизмов. Мол, у природы получилось, так чем мы хуже – надо лишь найти правильный начальный алгоритм, удачно подобрать параметры и запустить естественный обор. Благо, что быстродействие современных компьютеров позволяет сжать цикл репликации до долей секунды.

Прежде всего, следует отметить, что с природным естественным отбором не все так очевидно: миллионы и миллионы видов в ходе эволюции вымерло, а все выжившие загнаны естественным отбором в тупики узкой специализации, без малейшего намека на возможность какого-либо дальнейшего продвижения в сторону интеллектуальности. И только один вид (один из многих миллионов!), причем наименее приспособленный, адаптированный к конкретным условиям, стал разумным. Стоит задуматься: может, естественный отбор, да и вообще адаптация, это не тот метод, с помощью которого можно эволюционно преодолеть пропасть между поведением животных и разумной деятельностью человека? Ведь в природе эффективность этого метода приближается к нулю. Да и нужно ли повторять этот переход, когда результат уже известен? Может, надо сосредоточиться на результате, а не на пути к нему?

Есть и другой аспект проблемы адаптации. Допустим, необходимо создать разновидности некоторого устройства для работы в различных природных зонах и средах: в тропиках, за полярным кругом, на земле, под землей, в воде, в воздухе. Стандартная инженерная задача – создание линейки специализированных продуктов. Зададим вопрос: придет ли кому-нибудь в голову для ее решения использовать эволюционные методы в духе естественного отбора, то есть случайно менять параметры устройства и проверять их на выживаемость в различных условиях? Нет, конечно. Ведь очевидно, что естественный отбор – это лишь один из методов адаптации, к тому же медленный и малоэффективный. В условиях же современного постиндустриального социума задачи адаптации решаются расчетными методами, да еще с возможностью обеспечить мультиспециализацию, типа автомобиля-амфибии или летающего автомобиля. И понятно, что использование природой естественного отбора для адаптации популяций к среде – это вынужденная мера, продиктованная спецификой биологического организма: он не может меняться никак иначе, чем через репликацию. Повторять этот путь бессмысленно, тем более если есть возможность сразу проектировать и производить на конвейере устройства с заданными параметрами. (Хотя следует отметить, что в некоторых специфических задачах с неопределенными параметрами эволюционные методы бывают довольно продуктивны.)

Ну и еще один вопрос: а как соотносятся адаптация и интеллект? Можно ли решение интеллектуальной задачи свести к процедуре адаптации? Если разобраться, то интеллект – решающий интеллектуальные задачи в интеллектуальных деятельностях – ничуть не адаптивен, а скорее наоборот, нацелен не на приспособление существующего к изменившимся условиям, а на поиск новых решений, меняющих среду обитания. И конечно же, нельзя не отметить, что сами обладатели интеллекта – работники интеллектуального фронта, типичные профессора, чаще всего рассеянны, не приспособлены к жизни, не умеют выживать в изменяющихся условиях, в отличие, скажем, от бойцов армейских специальных подразделений, лица которых зачастую не изуродованы интеллектом [6].

Обучение и научение

Помимо попыток прямого копирования органических структур и/или запуска естественного отбора с прицелом получить неизвестно какой результат, многие исследователи возлагают большие надежды на обучение как центральный метод получения AGI. Выдвигается простой тезис: если в естественных условиях социума интеллектуалы получаются в результате обучения, то и железные устройства обязательно надо натаскивать на интеллектуальность. По сути, совершается та же ошибка, что и с естественным отбором и адаптацией: отождествление результата с частным способом его реализации. Ведь понятно, что метод достижения интеллектуальности через обучение предопределяется естественными биологическими ограничениями человека: он рождается беспомощным, и необходим довольно длительный период воспитания и обучения, чтобы его социализировать и интеллектуализировать. И так же, как в случае с адаптацией инженерных устройств без привлечения естественного отбора, находятся методы прямого (без обучения) решения задач, прежде считавшихся интеллектуальными. Калькуляторы же мы не обучаем. Или, например, имея систему, успешно решающую задачу распознавания изображений или речи, нет никакой необходимости заново обучать ее при подключении к каждому новому устройству – она может работать предельно долго как единый для всех агентов сервис. Ну и традиционно следует обратить внимание на малую эффективность обучения естественных интеллектов в социуме: «выход годных» даже в высшей школе непредсказуем и минимален и у лучших педагогов.

В качестве аргумента в пользу обязательности обучения для достижения AGI обычно приводятся успехи машинного обучения в распознавании картинок, генерации и перевода текстов и т.п. Здесь прежде всего нужно обратить внимание на то, что процедуру настройки нейронных сеток скорее следует трактовать как научение (натаскивание, дрессуру), чем обучение. Последнее прежде всего должно формировать понимание предметной области (без чего невозможно мышление), а не заключаться в простом воспроизведении закономерностей.

Кстати, тут показателен пример с машинным переводом. Программа научается на большом корпусе текстов, но это разовая (хотя и дополняемая) процедура, результатом которой могут пользоваться множество агентов. То есть речь идет не об обучении каждого интеллектуального агента, как это происходит в социуме, а о создании одной системы, реализующей функцию, которой могут пользоваться все искусственные агенты сразу при «рождении». И тут мы неизбежно приходим к выводу, противоположному относительно бытующего: задачей ИИ является устранение необходимости в обучении искусственных агентов, которое понимается как сложный, неоднозначный этап в приобретении конкретных интеллектуальных функций. Обучение в онтогенезе биологических организмов следует трактовать как необходимость, навязанную биологической сущностью человека.

Заключение

Подведем короткий итог. Нет специфически интеллектуальных функций и задач. Интеллект – это способ, базовый принцип природной реализации функций, и нет никакой необходимости воспроизводить его для решения прикладных задач. Тем более бессмысленно создавать универсальный решатель задач, когда современные технологии позволяют строить сети из множества согласованно взаимодействующих маленьких специализированных решателей. Естественный отбор и обучение – это малоэффективные и ненадежные методы адаптации и интеллектуализации, соответственно. Они вынужденно применяются в природе и социуме вследствие неполной функциональности биологических устройств при их рождении, их ограниченной возможности модификации и малого срока службы. И их нерационально использовать для создания инженерных устройств, предназначенных для решения конкретных адаптационных и интеллектуальных задач. Следовательно, сомнительна сама затея повторить в железе универсальное интеллектуальное устройство, которым является человек.

Во-первых, такое устройство уже есть. Во-вторых, оно в редких случаях что-то делает хорошо. А там, где человек действительно делает хорошо, скажем, в искусстве, там пусть человек останется наедине с человеком.

Все сказанное должно подвести нас к радикальному выводу: на планете есть и будет только один интеллект – человеческий, как есть и будет на планете только одна жизнь – белковая с одним генетическим кодом. И как нет никакой необходимости моделировать, повторять жизнь (она есть и пусть себе живет), так и нет никакой необходимости повторять человеческий интеллект. Да, мы что-то подсматриваем у природы и делаем устройства, реализующие полезные для нас функции: летаем самолетами, плаваем кораблями, роем туннели землеройными машинами, программно решаем дифуры и доказываем теоремы. И для этого нам совсем не нужно что-то типа «Сильной Искусственной Жизни» или «Общего Искусственного интеллекта».

Литература

  1. Legg Shane; Hutter Marcus (15 June 2007). A Collection of Definitions of Intelligence (Technical report). IDSIA. arXiv:0706.3639. URL: https://ui.adsabs.harvard.edu/abs/2007arXiv0706.3639L/abstract.
  2. Minsky M. (ed.) Semantic Information Processing. – MIT Press, Cambridge, 1968.
  3. Quote by Douglas Hofstadter. – Gödel, Escher, Bach: an Eternal Golden Braid, p. 601, Basic Books, Inc., 1999 (orig. 1979).
  4. Turing Test success marks milestone in computing history // University of Reading. – 2014. – 8 June. URL: http://www.reading.ac.uk/news-archive/ press-releases/pr583836.html.
  5. Wikipedia: Artificial general intelligence. URL: https://en.wikipedia.org/ wiki/Artificial_general_intelligence.
  6. Болдачев А. В. Интеллектуальные новации и адаптация. URL: https://habr.com/ru/post/394237. (Boldachev A. V. Intellectual innovations and adaptation. Internet resource.)