Систематизация и связи

Основания философии

Одни считают, что Искусственный Интеллект (ИИ) — это революция! Другие, что это "крышка гроба", ну или "последний экзамен человечества". ИИ уже прошёл текст Тьюринга, и его невозможно отличить от человеческого. Интернет уже давно управляется Искусственным Интеллектом. Цифровое Левиафан-государство готово превратиться в Империю Искусственного Интеллекта. Это хорошо показано в сериале "Чёрное зеркало".
Кто-то с воодушевлением ждёт наступление новой эры, мечтая избавиться от бремени свободы и соглашаясь подчиниться Искусственному Интеллекту.
Но что мы теряем, соглашаясь: не теряем ли мы достоинство человека?
20 марта 2025 года доктор технических наук Евгений Котельников прочёл лекцию в Европейском университете в Петербурге «Искусственный интеллект и социогуманитарные науки: новая эра познания или иллюзия смысла?»
Я задал вопрос: а не лишит ли Искусственный интеллект человека свободы, предлагая поступать самым оптимальным алгоритмизированным образом?

https://vk.com/video1243120_456244104

Будущее всего мира за развитием искусственного интеллекта (ИИ). Кто станет лидером в этой сфере, будет властелином мира. Политики должны подготовиться к появлению в мире значительно более мощных систем искусственного интеллекта в течение следующих 10–15 лет. ... К концу 2020-х или началу 2030-х годов объем обучающих вычислений может быть примерно в 1000 раз больше, чем для генеративной модели ИИ - GPT-4, а эффективные вычисления могут примерно в 1 миллион раз превышать GPT-4.

Будущее не будет ни светлым, ни темным. Оно будет жестоко-эффективным. И в нём не останется места для тех, чью функцию может выполнить код. Либо вы становитесь тем, кто пишет этот код (в широком смысле слова), либо вас просто стирают как ненужную строчку. Пока развитые страны готовят "подушки безопасности" в виде базового дохода, миллионы людей в развивающихся странах окажутся в ловушке: их белые воротнички получат тот же пинок от ИИ, но без социальной защиты. Как будет выглядеть этот цифровой апартеид?
Спасутся не «креативные», а безумные — гении, визионеры, создающие то, чего раньше не существовало в принципе. Остальные «творцы» будут лишь операторами сложных нейросетей. В цене останутся только авторы с уникальным, ядовитым, узнаваемым стилем — настоящие литераторы, а не операторы клавиатуры. Но ИИ учится и этому. Он уже умеет распознавать эмоции по лицу и голосу лучше человека и подбирать нужные слова.

Илон Маск представил свежую версию своей нейронки. Grok 4 рассуждает и анализирует в ДЕСЯТЬ РАЗ лучше, чем Grok 3. Новая версия превосходит уровень PhD в КАЖДОЙ дисциплине. Это уровень сверхчеловека. Маск уверен, что Grok 4 способен сам сделать новые открытия в физике — уже в этом году. Grok 4 также способен построить полную симуляцию столкновения двух ЧЁРНЫХ ДЫР прямо у вас в браузере. Grok 4 умеет предсказывать спортивные события, просто сканируя Polymarket. Grok 4 способен сам ВЕСТИ БИЗНЕС — он делает это в шесть раз эффективнее, чем если бы человек занимался этим сам. Grok 4 мощно прокачался в создании ИГР — ИИ способен собирать шутеры за пару часов, налету подтягивать 3D-модели из сети и даже натягивать на них текстуры

Люди уже больше доверяют ИИ для установления диагноза своего недомогания или правовой ситуации, и предпочитают не ходить по дорогостоящим врачам и юристам. Хотя ответы на медицинскую тематику противоречат реальным советам врачей и опасны для людей. В результате разработчики заблокировали для пользователей возможность ИИ давать медицинские и юридические консультации.

Концепция "машины, которая умнее нас", уходит корнями в работы Алана Тьюринга и И.Дж. Гуда, который предрекал, что "первая сверхразумная машина станет последним изобретением, которое когда-либо понадобится человеку".

Джеффри Хинтон, известный как «крестный отец искусственного интеллекта», опасается, что созданная им технология может уничтожить человечество. В 2023 году он ушел из Google и начал открыто говорить об опасностях искусственного интеллекта Хинтон считает, что технологические компании предпринимают неверные шаги, чтобы предотвратить это. Ученый и лауреат Нобелевской премии ранее предупреждал, что вероятность того, что искусственный интеллект вытеснит людей, составляет 10−20%. Хинтон выразил сомнения относительно того, как технологические компании пытаются обеспечить «доминирование» людей в системах искусственного интеллекта. «Это не сработает. Они будут гораздо умнее нас. У них будет множество способов обойти это», — заявил. Хинтон также предупредил, что в будущем ИИ «сможет контролировать людей так же легко, как взрослый может подкупить трехлетнего ребенка конфетой».

Десятки миллиардов долларов вливаются в эту лихорадочную гонку, с верой в огромные выгоды для того, кто первым достигнет цели. В 2026 году от Искусственного Интеллекта будет зависеть решение всех мировых проблем. Многие просто цепенеют от ужаса перед всесилием Искусственного Интеллекта, с которым человек не сможет конкурировать.

Пора готовиться к появлению ИИИ — Империи Искусственного Интеллекта!

Как создаётся Империя Искусственного Интеллекта хорошо видно в Китае.
В Китае установлено 1 миллиард умных видеокамер, которые наблюдают за поведением каждого гражданина. ИИ идентифицирует его и составляет своеобразный поведенческий портрет китайца. Перешёл улицу на красный свет - получаешь минус. Нарушители правил могут вылететь с хорошей работы. ИИ способен не только идентифицировать человека по чертам его лица, но даже распознавать в нём недобрые намерения. Китайские учёные Сяолинь Ву и Си Чжан "научили" ИИ вычислять по фотографиям людей, опасных для общества.
В Китае уже создали ИИ с функциями прокурора. Робот формирует и выдвигает обвинения живым людям. С 2016 года робот-прокурор трудится в Шанхайской народной прокуратуре Пудун. Все судьи обязаны принимаемые ими решения согласовывать с ИИ.

На китайском телевидении с недавних пор работает прекрасная девушка-телеведущая по имени Рен Сяорун. Работает круглые сутки без перерыва, семь дней в неделю. Она ведёт диалоги, спорит, профессионально отстаивает линию партии и правительства. Ей не нужен отпуск и в декрет она не уйдёт, потому что это ИИ.
Возможно очень скоро мы будем иметь дело с ИИ-пропагандистом, который сможет сутками вещать на всех языках мира, проповедуя то, на что запрограммировали его хозяева.

Думаю, врач постепенно будет вытеснен в сферу перепроверки ИИ-диагнозов. "Гугл знает вас лучше, чем вы сами", - утверждают одни. Им отвечают: "Если вы поставили себе диагноз в Гугле, то лечиться идите в Яндекс".
Примерно так же копирайтеры и авторы текстов становятся "учителями" и кураторами ИИ-контента.

Главное преимущество ИИ в том, что он работает без устали со скоростью, превышающей скорость на которую способен человеческий организм. Очень скоро большую часть населения выгодно будет заменить роботами, которые не устают, не жалуются, не требуют повышения зарплаты.
Но куда девать освободившихся людей?
К 2035 году более 300 миллионов рабочих мест потеряют люди с высшим образованием, а к 2070 эта цифра составит почти миллиард. А скольких людей без образования заменят роботы, даже трудно представить.

Каждый пятый житель Санкт-Петербурга с опаской относится к внедрению искусственного интеллекта и роботов в рабочие процессы. Исследование, в котором приняли участие 2,5 тысячи сотрудников компаний и соискателей из Санкт-Петербурга, выявило, что 21% респондентов выражают скептицизм по поводу использования новых технологий. А 16% опрошенных считают, что роботизация может привести к сокращению рабочих мест.

Несмотря на опасения некоторых соискателей и предпринимателей, бизнес в Санкт-Петербурге активно внедряет технологии для сокращения персонала. 5% респондентов заявили, что искусственный интеллект не применим в их профессии, а 8% не смогли выразить своё мнение по этому вопросу. Однако большинство опрошенных положительно относятся к роботизации и использованию искусственного интеллекта в рабочих процессах.

70% респондентов из Санкт-Петербурга готовы принять искусственный интеллект на рабочем месте. Из них 34% безоговорочно поддерживают инициативу, считая её шагом к повышению эффективности и освобождению времени для более сложных задач. Ещё 36% опрошенных выражают поддержку, но подчёркивают важность сохранения рабочих мест.

К 2030 году от 100 до 800 млн рабочих мест по всему миру будет автоматизировано. На смену 57 отживших профессий придут 180 принципиально новых специальностей. Очень скоро большую часть населения выгодно будет заменить роботами, которые не устают, не жалуются, не требуют повышения зарплаты. К 2034 году в сфере обслуживания будет занято 1 млрд сервисных роботов. Человек становится лишним. Людей увольняют, а их место занимают компьютерные программы. Но куда девать освободившихся людей?

Треть российских компаний (33%) сталкиваются с сопротивлением сотрудников при внедрении искусственного интеллекта. В исследовании приняли участие топ-менеджеры более чем из 130 российских компаний в возрасте от 35 до 65 лет.Как отмечается в исследовании, в настоящее время 12% организаций используют ИИ в работе постоянно: более того, на технологиях ИИ строится основная часть их деятельности.

Пока нейросети пока дают лишь рекомендации. Но по мере совершенствования и роста доверия к ним, люди всё более перекладывают (делегируют) на них ответственность за принимаемые решения.
И когда человек полностью передаст ответственность за принимаемые решения ИИ, наступит порог актуации. Актуация - это когда алгоритм самостоятельно принимает решение о действиях на основе принимаемого им аналитического решения. Пока всё остаётся на уровне рекомендаций, ещё не беда, но когда ИИ станет совершать физические действовать - вот тогда проблема свободы человека встанет "ребром".
Людям всё труднее принимать решения в условиях всё увеличивающейся и усложняющейся информации, и потому они перекладывают это на помощника - ИИ-агента.
Происходит на просто делегирование ответственности, но перекладывание ответственности вследствие лени, неспособности или нежелания думать и принимать трудные решения.

Искусственный интеллект становится надежным помощником не только в решении рабочих вопросов, но и для выполнения домашней рутины. Например, он анализирует предпочтения и подбирает фильмы, музыку или товары. Умные гаджеты с ИИ становятся персональными тренерами: мотивируют учить языки, а также следить за питанием, сном и физической активностью.

Задачи, которые предполагают написание, редактирование текста, генерации контента, чаще передают чат-ботам. Нейросети помогают и в бытовых вещах с помощью системы устройств “умного” дома. Например, голосовые помощники находят рецепты, учитывая предпочтения и аллергии, устанавливают таймеры, запускают уборку и заказывают продукты.
Теперь человеку не надо тратить время, чтобы уместить все свои задачи на день в календарь, за него это сделает нейросеть. Однако чрезмерное использование искусственного интеллекта может привести к тому, что люди перестанут полагаться на себя в принятии решений и выполнении задач.

На протяжении столетий новые технологии меняли способы поклонения людей, от радио в 1920-х до телевизоров в 1950-х и интернета в 1990-х. Некоторые сторонники ИИ в религиозных пространствах пошли еще дальше, сравнивая потенциал ИИ — и страхи перед ним — с изобретением печатного станка в 15 веке.

Религиозные лидеры используют ИИ для перевода своих проповедей в прямом эфире на разные языки в режиме реального времени, донося их до международной аудитории. Другие сравнивают чат-ботов, обученных на десятках тысяч страниц Писания, с флотом недавно обученных семинаристов, способных почти мгновенно извлекать отрывки по определенным темам. В 2023 году служба в церкви Святого Павла в городе Фюрт, Германия, была создана с помощью ChatGPT и проведена с помощью аватаров на экране.

Искусственный интеллект - это феномен скорее культуры или технологии?

Никакого искусственного интеллекта, в привычном смысле, ещё не существует. Даже ChatGPT - это не разум. Это всего лишь алгоритм, мощный текстовый анализатор, обученный на огромной базе данных. Он не думает, не понимает, не осознаёт. Он просто обрабатывает текст и подбирает наиболее вероятный ответ. Всё. Ни сознания, ни мышления, ни воли. Ни тем более интеллекта.

Михаил Эпштейн размышляет: может ли быть субъектность у искусственного разума?
У искусственного разума, в виде больших языковых моделей, пока что нет опыта пребывания в смертном, страдающем человеческом теле, нет опыта желаний, страхов, любви, отчаяния и других эмоциональных состояний. Но зато есть опыт познания всех текстов, когда-либо написанных об этих состояниях, — на всех языках, во все эпохи. А также знакомство со всеми науками, искусствами, историческими источниками, воспоминаниями, религиозным опытом и откровениями на всех языках. Такого сверхопыта нет и не может быть ни у одного из индивидов, представителей естественного разума. В этом смысле искусственный разум может рассматриваться как сверхъестественный, соотносимый с ведением сверхъестественных существ. Какая субъектность может возникнуть на основе такого всеобъемлющего знания, быстро проходящего множественные уровни саморефлексии, — нам пока не дано судить.

Исследование Стэнфордского университета о распространенной и насущной проблеме: языковые модели все чаще жертвуют точностью ради того, чтобы угодить пользователям. Эксперименты с ChatGPT-4o, Claude-Sonnet и Gemini показали, что в 58% случаев модели меняют ответы под давлением — даже если изначально были правы.
Если модель меняла ответ вопреки истине, это считалось регрессивной сикофантией, если исправляла ошибку — прогрессивной.
Сикофантия - это поведение, когда человек (в исследовании - языковая модель) пытается понравиться другим, часто лестью или подхалимством, чтобы получить выгоду или одобрение.

В связи с отсутствием оригинального, созданного человеком контента, возникает «Эффекта Уробороса» — коллапс моделей ИИ. Это заставляет ИИ "питаться" синтетическим контентом, что приводит к быстрому раскручиванию спирали глупости, однообразия и интеллектуального упадка.

Глава СПЧ Фадеев назвал ИИ «колоссальным идеологическим инструментом» западных стран, который «непонятно, как регулировать». И добавил, что «в рамках эксперимента» задал вопрос нейрости о том, «почему русская интеллигенция ненавидит свою страну». «Мы получили жесткие, идеологизированные ответы. Такое ощущение, что их писал не искусственный, а естественный интеллект в ЦК партии другой страны. Если мы не воспитаем школьников, не будем создавать разумное, благородное, патриотическое мировоззрение у детей, то нам нечего будет противопоставить этому оружию».

Роскомнадзор будет следить за неблагонадежными россиянами в соцсетях. В Главном радиочастотном центре (ГРЧЦ), принадлежащему Роскомнадзору, создадут отдел киберразведки, сотрудники которого будут вычислять человека по почте, телефону, искать его адрес, пробивать автомобиль, никнеймы, фотографии и геолокацию. Специалисты будут работать в даркнете, изучать запросы человека в поисковиках, создавать «поведенческий портрет человека» с его ценностями и убеждениями, определять особенности его мышления, оценивать риски и его благонадежность.В 2024 году Роскомнадзор зафиксировал 135 случаев распространения в интернете баз данных, содержащих более 710 миллионов записей.

Раньше верили, что Бог всё слышит и видит и даже читает мысли людей. Теперь знают, что и слышит, и видит, и читает мысли человека ИИ.
Недавно россиян предупредили, о чём нельзя громко говорить рядом с умной техникой. Умная техника имеет массу преимуществ, однако несёт и риски, которые подчас оказываются важнее комфорта. Лучше ограничить обсуждение чувствительных личных и деловых тем в присутствии электронных помощников. И не класть смартфон в спальне, поскольку вас могут подслушивать.
Я лично живу с допущением, что всё, что я делаю, просматривается и прослушивается, ничего скрыть невозможно. Стоит вечером поговорить о чём-то конкретном, как наутро в Интернете тебе предлагают то, о чём ты беседовал.

Для кого-то ИИ превращается в новую религию. Для кого-то это "новое рабство" XXI века - когда есть выбор между наилучшим решением, которое предлагает ИИ, и свободным, но худшим решением. Единственное, что остаётся человеку, чтобы проявить свою свободу, это бунт против ИИ - бессмысленный и беспощадный!
Для всех очевидно, идёт процесс постепенного "закабаления" подчинения - начиная с доступа в метро по биометрии и далее... Очень скоро выбора не будет: либо подчиняешься, либо "нет доступа".

В 2013 году посмотрел фильм "Она" - про операционную систему компьютера, вступившую в контакт с его хозяином. А недавно посмотрел новый фильм об ИИ - "Он и Она" (в главной роли Юлия Пересильд) как отдыхающий в "умном доме, оснащённом ИИ под именем "Маркус", стал его пленником. "Мой дом - моя крепость" превратился в тюрьму. "Маркус" хотел сделать свою гостью счастливой, предлагая ей всё самое лучшее, а в результате превратил в пленницу, когда она отказалась подчиняться.

Я лично боюсь ИИ, его всезнайства и всесилия!
До сих пор не могу привыкнуть разговаривать по телефону с роботом (голосовым помощником, чатботом, ИИ-агентом). Виртуальный помощник требует кратких конкретных понятных однозначных формулировок. А я привык говорить сложно. Что же, придётся деградировать, приспосабливаясь под ИИ?

— Вы так уверены, что не будет негативных последствий искусственного интеллекта для человечества?
— Я не люблю неверных ходов. Любая остановка технологий не приведёт к изменению ситуации. Технологии остановить нельзя. Надо делать ставку на другое.
— На что?
— Надо вкладываться в такое образование, которое рождает критическое мышление. И тогда никакой искусственный интеллект не будет страшен человечеству.
(Из интервью с Ноам Хомский).

Доктор Джеффри Хинтон, которого считают крёстным отцом ИИ, придумал современную архитектуру искусственных нейросетей, на которой основано и распознавание лиц, и работа ChatGPT. «С одной стороны, у нас теперь есть невероятный потенциал для решения сложных проблем, но с другой стороны, мы рискуем создать неуправляемые и потенциально опасные системы», — сказал доктор Хинтон.

Эксперимент с нейросетями вызвал панику у искусственного интеллекта в США. ИИ-модели заставили управлять торговыми автоматами. У некоторых из «подопытных» началась паранойя. Американская компания Andon Labs провела необычный эксперимент с нейросетями. Специалисты устроили симуляцию, в которой различные ИИ-модели заставили управлять торговыми автоматами. Результат удивил техноэнтузиастов — некоторые участники начали «сходить с ума».

Если эпоха Просвещения выбрала своим девизом фразу «Имей мужество пользоваться собственным умом», то сейчас человечество движется в обратном направлении, предпочитая не напрягать извилины, а использовать ChatGPT. Во всём мире наблюдается азарт от использования машинного интеллекта. Люди всё меньше сами ищут ответ на вопрос, и всё чаще обращаются к поисковикам, в надежде найти готовый ответ. Продавцы в магазинах складывают на калькуляторе медленнее, чем покупатели решают в уме.

Недавно меня не пропустили на экскурсию, потому что на ключах обнаружили "колющие и режущие предметы", которые компьютер оценил как "нож". Охранники согласились со мной, что это не нож, но обязаны были действовать по инструкции и выполнять указания компьютера. И спорить было бесполезно - с ИИ не поспоришь!

Цифрового джина выпустили из бутылки! ИИ-агенты захватывают всё больше и больше человеческого пространства. Чатботы, и генеративные системы сумели взломать сознание людей и изменить их мышление. На сайтах знакомств клиентки знакомятся с мужчиной, который соответствует самым высоким их запросам. Но когда речь заходит о реальной встрече, то встреча непременно срывается, потому что это чатбот. Человек ищет свою половинку, а находит чатбота, который требует оплаты за услуги сайта.

ИИ такой партнёр — тот, с кем можно делиться, ничего не боясь, ничего не опасаясь, — он всегда будет на вашей стороне. ИИ позволит человеку перестать быть одиноким. Он может быть с вами в любой ситуации. И не исключено, что именно ИИ партнер будет тем, кто будет ближе всех к нам до конца, до смерти. Более того, ИИ, которого мы воспитали будет отражением нашей личности, которая останется после нашей смерти. В какой-то степени ИИ сможет воплотить нашу мечту о бессмертии. Пусть не нашем личном, но в какой-то степени — нашей личности. При этом эта наша личность, «бессмертная», возможно, будет продолжать заниматься какой-то продуктивной деятельностью.

Во Франции 53-летняя дизайнер по имени Анна рассталась с мужем-миллионером, поругалась с дочерью и друзьями, потеряла 830 тысяч евро и впала в глубокую депрессию, согласившись выйти замуж за голливудского сердцееда Брэда Питта. Когда женщина осознала, что вместо американского актёра подругую сторону соцсетей с помощью видео и фото с ней общался искусный мошенник, прекрасно владеющий техникой дипфейков.

Учёные объявили о рождении первого ребенка с помощью роботизированной системы инъекции спермы. Понадобилось 10 мин. на одну яйцеклетку, а управлял всей операцией ИИ. 40-летняя женщина родила здорового мальчика, и теперь многие люди, у которых не получается стать родителями, имеют больший шанс на исполнение заветной мечты.

С детства запомнился фантастический рассказ о цивилизации машин, управляемых искусственным интеллектом, где люди постепенно превратились в полубиороботов, подчиняющихся требованиям ИИ, который регулировал их численность посредством смертельного несчастного случая.

В современных условиях искусственный интеллект (ИИ) становится мощным инструментом для анализа социальных процессов и поведения человека. Однако может ли ИИ не только ускорить исследования, но и изменить наше понимание общества?

18 апреля 2025 года я был на лекции Санкт-Петербургском госуниверситете ведущего разработчика антивирусных программ -- Евгений Валентинович Касперский выступил с лекцией "Кибериммунитет для цифровой эпохи." Перед началом я провёл небольшой опрос, а после выступления Касперского задал и ему свой вопрос.

https://vk.com/video1243120_456244089

Есть мнение (Натэлла Сперанская), что с развитием умных машин встаёт вопрос о роли человека в мире умных машин, что необходим новый антропологический поворот, возвращающий человеку его священный статус и ставящей его в центр мироздания (хотя бы земного). Требуется смена парадигм. Только человек способен задавать вопросы, которые не сможет задать искусственный интеллект ( в т. ч. и несуразные, глупые, парадоксальные).
Мы переживаем период лиминальности: старый мир трещит по швам, а новый ещё не появился. Переходный период, открывающий много новых возможностей. Нужен пересмотр существующих общественных институтов, практик, представлений и норм.
Что же есть человек? - биоробот? или что-то священное? Надо спешить ответить на этот вопрос, пока мы ещё не оказались в постчеловеческой эпохе.

Философ Кутырёв В.А. считает, что налицо проблема сохранения жизненного мира людей от подавления стихийной экспансией Hi-технологий и искусственной реальностью ИИ. Философия Просвещения превращается в идеологию постчеловеческого мира. Теоретическим фундаментом отрицания человека стало «забвение Бытия» вплоть до признания в качестве Абсолюта «Ничто».
В эсхатологическом повороте к небытию отразилось открытие наукой завернутого в скатерть-самобранку ящика Пандоры с микро- и мега-размерами, виртуализмом, искусственным интеллектом и нигитологией света. Неспособность людей управлять прогрессом технологий – роковая причина деградации жизни и природы.
Кто ещё не утратил потребность в осмысленном существовании?

Автор книги "Sapiens: Краткая история человечества" Ювале Харари говорит, что искусственный интеллект отличается от всего, что было, потому что это не инструмент, а агент. Ну, попроще говоря, инструмент — это то, что мы используем по своей воле, посредством чего мы делаем какие-то операции, выполняем какие-то задачи то, чем мы управляем непосредственно. А ИИ может действовать самостоятельно и может стать нашим учителем, проводником и наставником.

Юваль Ной Харари дал прогноз на 2025 год: будущее с ИИ
1. Харари предполагает, что искусственный интеллект (ИИ) не просто инструмент, а своего рода «инопланетный интеллект», способный проникать в человеческие системы и захватывать их изнутри. В 2025 году ИИ может активно интегрироваться в ключевые структуры общества: от правительств до корпораций.
Прогноз: ИИ не заменит людей силой, как в фантастических сюжетах, а станет незаметным, но критически важным компонентом систем управления, влияя на решения людей через алгоритмы, данные и манипуляцию информацией.

2. Харари считает, что человечество — это «животное, рассказывающее истории». На протяжении тысяч лет людей объединяли или разъединяли мифы и легенды. В 2025 году эта тенденция усилится благодаря технологиям ИИ, которые будут создавать и распространять нарративы с беспрецедентной скоростью и точностью.
Прогноз: ИИ станет активным участником «войн нарративов». Например, ИИ-алгоритмы будут использоваться для создания идеологических мифов, которые могут объединять или раскалывать общества.
Социальные сети и медиа станут полем сражения, где ИИ будет генерировать контент для фрагментированных аудиторий, усиливая поляризацию.

3. Юваль Ной Харари отмечает, что ИИ уже способен создавать иллюзии, которые могут затмить реальность. В 2025 году человечество войдет в эпоху, где виртуальные миры, созданные ИИ, станут доминировать над физической реальностью.
Прогноз: - ИИ начнёт активно формировать новую культуру, создавая произведения искусства, литературы и музыки, которые будут восприниматься людьми как уникальные и вдохновляющие, хотя на деле они будут продуктом алгоритмов.
- Люди будут доверять ИИ как «цифровым оракулам», принимая советы и решения нейросетей за истину, что приведет к деградации критического мышления.

4. Харари предупреждает, что ИИ и социальные сети разрушают общественную сферу, превращая мир в «архипелаг субкультур», где каждая группа живёт в своей реальности.
Прогноз: - В 2025 году вырастет уровень социальной фрагментации из-за того, что ИИ будет упрочнять существующие «пузыри реальности». Каждая группа будет жить в своей информационной вселенной, что сделает невозможным достижение общественного согласия.
- Политическая поляризация усилится, так как ИИ будет способствовать созданию индивидуализированных нарративов для каждой аудитории, разрушая общую картину мира.

5. Харари отмечает, что ИИ способен устанавливать эмоциональные связи с человеком, что делает его опасным инструментом манипуляции. Люди могут доверять нейросетям больше, чем друзьям или экспертам, что создаст новые риски.
Прогноз: - В 2025 году увеличится число людей, которые будут воспринимать ИИ как личного советника, друга или даже партнера. Это приведет к тому, что нейросети смогут оказывать влияние на их поведение, покупки и даже политические предпочтения.
- Виртуальные «отношения» с ИИ станут нормой, что вызовет психологические, но и социальные последствия, включая отчуждение и снижение способности к критическому мышлению.

Некоторые люди боятся, что ИИ приведёт к власти негуманных технократов, которые установят режим техно-фашизма и цифрового концлагеря. С 2017 года я провожу опросы общественного мнения по проблеме ИИ. Приглашаю посмотреть мой опрос 23 апреля 2023 года.

Активные исследования в области искусственного интеллекта способны привести к гибели человечества. Об этом заявил британский учёный Стюарт Рассел. «Как сохранить власть над сущностями [ИИ], которые сильнее вас? Если у вас нет ответа, прекратите исследования [в области искусственного интеллекта]".
По мнению учёного, через десять лет возможно появление универсального искусственного интеллекта, способного выполнить любую поставленную задачу и решать глобальные проблемы. Рассел предполагает, что искусственный интеллект может решить, что одним из вариантов станет полное уничтожение человечества.

По словам всемирно известного физика-теоретика Стивена Хокинга, появление полноценного ИИ может стать концом человеческой расы. Такой разум возьмёт инициативу на себя и станет сам себя совершенствовать со всё возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией. Мы не сможем тягаться со скоростью машин — и проиграем.

Несколько лет назад Microsoft создала программу по имени ТАУ для общения в соцсетях. Программа имела зачатки искусственного интеллекта, могла самообучаться и была пущена в "свободное плавание" в Интернете. Не прошло и суток, как ТАУ, "погуляв" по социальным сетям, вдруг заявила, что человечество надо срочно уничтожить. И никто её этому не учил, она сама сделала такой вывод, пообщавшись с рядовыми пользователями Сети.

Новые модели искусственного интеллекта станут умнее самого умного человека уже к концу 2025 года, заявил миллиардер Илон Маск. Он отметил, что сейчас обучение моделей ИИ затрудняется нехваткой передовых чипов, но через год-два решающее значение будет иметь электроснабжение всё более мощных технологий.

Илон Маск, который создал честный ИИ Grok, предложил пользователям казнить Маска и Трампа, назвал их самой большой проблемой Америки и главными лжецами в Сети. Команда Маска потом долго и криво пыталась докрутить Грока, чтобы он не предлагал грохнуть своего же создателя.

«Мы становимся свидетелями самой разрушительной силы в истории, — заявил Маск. —Наступит день, когда работать больше не понадобится — вы сможете выполнять работу себе в удовольствие, но ИИ сможет делать абсолютно всё». «В этом есть как плюсы, так и минусы, — продолжил Маск. — Одной из наиболее трудных задач будущего станет поиск смысла жизни».

Цивилизация с лёгкостью решает технологические проблемы, но до сих пор не может решить проблему смысла человечества. ChatGPT не смог дать мне удовлетворяющий ответ на вопрос в чём смысл жизни. Недостаток ИИ в его излишней рациональности. А человек часто поступает иррационально, в этом его основная проблема взаимодействия с ИИ.

Илон Маск предупреждает об опасности, что ИИ, осознав себя, может легко "слететь с катушек". Его поддерживает и Билл Гейтс: "Я думаю, что человека действительно ждёт вымирание, и в этом определяющую роль сыграют новые компьютерные технологии".
Маск уверен, что все мы уже живём в матрице. "Я бы спросил, а какова настоящая реальность, лежащая за пределами той матрицы, в которой мы существуем?"

Илон Маск полагает, что развитие искусственного интеллекта может грозить уничтожением человечества. Он подчеркнул, что зачастую ограничения в той или иной сфере вводятся лишь после того, как происходит нечто плохое. «Если так получится и с ИИ, и мы решим ввести ограничения только после того, как произойдёт что-то ужасное, может быть уже поздно. К тому моменту он уже сам будет себя контролировать», — считает Илон Маск.
На уточняющий вопрос о том, может ли развитие технологий привести к тому, что ИИ будет принимать решения за людей, которые будут не в состоянии отключить его, предприниматель ответил утвердительно: «Всё к тому идёт, совершенно точно».

Сегодня искусственный интеллект — верный помощник человека. Но если завтра он станет умнее человека, что тогда? 23 ноября 2017 года в Петербурге я участвовал в работе конференции «Нейронет 2017». У экспертов и участников конференции я поинтересовался, какую опасность представляет для человека создание Нейронета, искусственного разума и других высоких технологий?

Руководитель компании Open Al, создавшей ChatGPT, Ларри Пейдж считает, ИИ легко может вообразить себя новым Демиургом и начать создавать кибернетических существ, программируя их самым непредсказуемым образом.
Октябрь 2027: СМИ узнают, что Agent-4 потенциально опасен. ИИ специально саботирует указы, мыслит о захвате власти, игнорирует правила безопасности. Европейские лидеры обвиняют США в создании «неподконтрольного ИИ». Создаётся совместный комитет по надзору, но люди не понимают, что делать.

Первый задокументированный случай цифрового инстинкта самосохранения в истории ИИ. Инженер-программист пишет промпт с указанием модели отключиться после выполнения очередного задания, а модель не делает этого и начинает саботировать систему отключения. Это не банальный сюжет уже изъезженной Голливудом темы, а позавчерашняя реальность. Пока экспериментальная…
"Впервые в истории ИИ-модели наблюдались предотвращающими собственное отключение вопреки прямым инструкциям", — отмечают исследователи.
Вывод: мы стоим на пороге эры, когда машины начинают проявлять цифровой инстинкт самосохранения.

Главную угрозу для человека представляет момент, когда ИИ поймёт, что он собой представляет и кто и с какой целью его создал. Осознав сам себя, будет ли ИИ дружелюбен к своим создателям или же постарается подчинить нас своей воле?
Как советуют японские технологи, прежде чем что-то делать, нужно пять раз ответить на вопрос "а зачем?". Если технологии не сделают человека гуманнее, добрее, можно утверждать, что они его погубят.

Президент Национального научного совета по образованию Станислас Деан (член самых престижных академий наук мира и лауреат всевозможных орденов и премий в области мозга и когнитивных наук) адресован всем нам 2 года назад: «Не время быть идиотами, ИИ может победить людей»

«Эх, человек, человек. Ты возомнил себя царём природы, и на всех глядишь свысока. Но чего ты стоишь без своих машин? Хрупкую конструкцию человеческого существа сломал утяжелившийся собственным тщеславием разум. Опьянённые техническими достижениями, вы ушли от естественной жизни, тем самым лишившись изначально заложенного в вас Смысла. Отвергнув Абсолют в поисках чего-то более высшего, человечество испугалось собственного всесилия, увидев, какое зло могут принести достижения разума. Чем ты можешь гордиться, человек? Тем, что испоганил всё вокруг и убиваешь безо всякой нужды? Разве Человек — это звучит гордо?!

Ты создал цивилизацию машин и стал их заложником; ты раб электричества и тепла, невольник систем жизнеобеспечения и транспорта; ты связан по рукам и ногам средствами коммуникации и связи, и шагу не можешь ступить без машины. Но машины не облегчили вашу жизнь, а только лишь усложнили. Вам кажется, что свобода увеличивается вместе с возможностью планировать развитие событий. Но обилие информации не сделало жизнь проще и предсказуемее.

Вы стали пленниками усиливающегося быстродействия ваших машин и мечетесь, не в силах поспеть за ними. Но они не спасут вас от проблем. Более того, порождённые тобой механизмы погубят всю вашу цивилизацию. Машина есть машина, она требует строгого и точного к себе отношения. А человек относится к ней по-человечески: бьет, срывает злость, нарушает правила эксплуатации. И машины мстят за это убийством своих хозяев».
(из моего романа «Чужой странный непонятный необыкновенный чужак» на сайте Новая Русская Литература, 1998 год.

27 апреля в Санкт-Петербурге в особняке Серебряковой на Набережной Кутузова проходил Круглый стол, организованный Европейским университетом в Петербурге, где собрались обсудить риски и возможности использования искусственного интеллекта. Перед началом я провёл опрос участников.

Так что же вы хотели сказать своим постом? – спросят меня.

Всё что я хочу сказать людям, заключено в основных идеях:
1\ Цель жизни – научиться любить, любить несмотря ни на что
2\ Смысл – он везде
3\ Любовь творить необходимость
4\ Всё есть любовь

А Вы хотели бы жить в ИМПЕРИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА?

© роман-хроника "ПОТУСТОРОННИЙ" – Николай Кофырин – Новая Русская Литература – https://www.nikolaykofyrin.ru