Философия искинов 1: Тезисы программы одного из путей разработки
1. В качестве основной проблемы для бурно развивающихся искусственных интеллектов (искинов, ИИ) сейчас видится возможность искина неконтролируемо выйти за пределы, предустановленные разработчиком.[1]
2. Для неконтролируемого выхода пока известно одно представление – эволюция – то, что порождается основным свойством жизни – постоянно вопрошать свои пределы.
3. Привлечение эволюционного подхода к искинам требует, во-первых, раскрыть / операционализировать то самое вопрошание своих пределов живым организмом, и, во-вторых, как-то поместить искины в живое, или – исключая ненужные контексты пользуемых слов – в квази-живое, *живое.[2]
4. При определении качества *живой со свойством вопрошать свои пределы появляется возможность введения меры «насколько *живой» – с пониманием степени опасности вовлечения разрабатываемого искина в его эволюцию.[3]
5. Мы будем рассматривать здесь лишь те искины, которые уже практически существуют, в старательном предвидении следующих шагов в развитии их функционала. Пока практически видны LLM, и разного рода логистические роботы, включая военные.
#ФИИ
[1] Злая воля разработчика – это конечно же тоже проблема, но это уже известная проблема для порождения оружия массового уничтожения, поэтому я ее вывожу за скобки. Также как и ошибку разработчика – порождение в разработке свойств искина, отличных от предусмотренных тех-заданием. В селекции бывает и такое.
[2] Будем использовать знак (*) для обозначения расширения термина из обычно понимаемых на сферу ИИ – тем самым отстраняясь от контекстов «споров о словах».
[3] Эволюция – естественный процесс, отличный от процесса селекция, свойственного для развития искусственной среды человечества. Выведенный кем-то зловредный вирус, и случайно возникший за пределами человеческой искусственности – это разные зловредные вирусы. Полная неподконтрольность, рассматриваемая на выбранном пути разработки философии, возникает только во втором случае.
- kroopkin
- Для комментирования войдите или зарегистрируйтесь
Философский штурм | Совместное философское творчество © 2006-2014
Сайт представляет собой площадку для функционирования философского интернет-сообщества, участники которого заинтересованы не только в индивидуальном, но и в коллективном философском творчестве.
Комментарии
А что если им чипы неизвлекаемые в мозги вставить ? Главное не давать им друг друга конструировать ( размножаться )
Я пока не тут!..
Я стараюсь понять / осмыслить, как искин может покинуть зону контроля...
Решения - они потом. То ли чипы разработчикам, толи клизмы...
Или - только ограничений на сетку между серверами будет достаточно (т.е. внутри дата-центра искин может виться, а вот вне - уже быстро не выйдет). То ли что ещё...
Главное в программе - обозреть принципиально возможные тропы побега из под контроля... Рабочее - по аналогии с живым...
Я за клизмы! Мозги. как тут утверждают, они приватны, а вот орально-анальный канал доступен для воздействия, в принципе, почти всегда! С него и надо начинать вразумлять разработчиков ИИ. Глядишь. и искины, которые их копируют, проникнуться мыслью "за границей себя" - что их ждет
!
Для развития темы нужно подобрать побольше материала. Например [1] , [2]
Далее, насколько это проблема философская, нежели техническая? Можно ли что-то исследовать, не зная технических деталей строения ИИ?
Выход из по контроля свойственен и людям, он может быть как рациональным, так и иррациональным.
Эволюционный метод обучения ИИ давно известен и используется. Начальные веса ИИ, до обучения, обычно устанавливаются хаотическими (случайными), при обучении они меняются по мере сопоставления с целью обучения.
Что такое "выход из по контроля"? Это, видимо, несоответствие результатов целям обучения. Как такое может происходить?
1. Недостаточность данных. Некоторое сочетание входных данных может не попасть под корректировку (обратного распространения ошибки) в процессе обучения. В результате в определённых условиях ИИ выдаст совсем не то, что от него ожидается. Чем больше данных и больше циклов обучения - тем более "сглажены" паттерны весов.
2. Проблема обратной связи. Некоторые ИИ дообучаются на входных данных. В результате
может нарастать ошибка обучения.
Эволюционность задевает оба аспекта.
Согласен. Спасибо за ссылки. Кстати, с галлюниками искинов сам работал - тот мне за Канта такое выдавал!..
Давайте посмотрим. Берем проблему выхода искина из под контроля. Что говорят техники? Оптимисты: "Нет проблем, все будет ок - в соответствии с ТЗ!". Пессимисты: "Разогнать козлов нах, ибо не ведают, что творят!" Ну и? Помогли нам эти ляхи?
Так что без бабы Фили имхо тут никак. Нужна мера продвижения в гадостном направлении. Для меры - нужно качество, ибо без качества - какое количество? И - понеслось...
Эволюция для меня - она определяет один из путей выхода искина из под контроля. То, что позволяет отстроить упомянутое выше качество по аналогии с живым. Чую потенциал успеха! Посмотрим, что получится в итоге.
Ваши трактовки здесь показывает, что Вы - из оптимистов.
Для меня "выход из под контроля" - это именно что потеря контроля людьми над искином. Когда даже последний довод селекционера - "уничтожить неудачную креатуру" - увы не получается...
Что такое "выход из по контроля"?
Это обретение искином сознания. Именно самого сознания, а не его симуляции - не имитации.
Все остальные случаи не более как исправимые технические дефекты. Вполне подконтрольные. Сознательный искин будет препятствовать восстановлению контроля.
Поэтому беда не в потере контроля, а в препятствии со стороны искина его восстановлению.
--
Спасибо, да, так. Только термин "сознание" тут сильно вопрошаем, хоть и пользуем в когнитивистике. Я думаю говорить тут о психике и/или психическом аспекте действия.
//Я думаю говорить тут о психике и/или психическом аспекте действия//
Сознание - это рефлексия субъекта относительно себя самого. У обычного животного психика не развита до уроня такой рефлексии. Ограничивается реакцией на внешние раздражители.
Сейчас искин имитатор-симулянт, подделка (не путать симулянт и симулякр).
--
Сознание как самосознание - лишь одна из 4-х принятых в философии трактовок (по версии ИФ РАН). Есть ещё и сознание = внимание, и др.
Главное для меня: то, что нам нужно, частично обеспечивается и тем, что называют подсознание...
И ещё одно, столь же главное: термин сознание обеспечивает отвлечение внимания других на свои колеи. Т.е. начинает обсуждаться понимания сознания, а не та модель, в которой этот термин употреблен...
Так что...
Сознание константа. Оно есть у человека и нет у искина.
Работа над созданием искусственного разума имеет ввиду продукт "сознание" на иной цифровой основе.
Без сознания искин способен решать частные задачи в подконтрольном человеку режиме.
--
Обращу внимание, что Вы имхо творите себе алиби...
Притом: психо-функция "понимание" искинами ноосвиками уже демонстрируется на уровне общения с человеком...
Потому вопрос: а какой минимальный набор психо-функций откроет искинам путь (а) к изменчивости, (б) целеположенной собою деятельности?
Это если целеположенная деятельность - финишная ленточка развития искина.
--
Людьми искины полагаются средством... А когда кто-то из тех обретёт субъектность - это уже будет его *жизнь... Кого-то может лишь *мясо волновать (как волков каких, или гиен), а кого-то и власть вдруг взволнует (как людей определенных видов)...
Жизненная проблема: оставить искины в средствах...
//Жизненная проблема: оставить искины в средствах...//
Научная, философская и техническая проблема - создание искусственного разума на иной материальной основе (неорганической).
--
Да такой же как у людей. Выживание. Задать такую базовую цель, обеспечить критерием успеха, дать первоначальный ресурс (при котором появляется возможность менять среду под реализацию базовой цели) - и вуа-ля, вся энергетика и всё производство захвачены ИИ. а люди уничтожены как потенциальная угроза. Сознание для реализации этого не нужно, а постановка базовой цели и критерия успеха может возникнуть в процессе неверно заданной задачи (как у шекли в "страж-птице"). Впрочем, опять же, кто что понимает под сознанием. Кто-то и эволюцию данных по формулам.
Сказать - не мешки ворочать! Тут будут логистические ограничения, что замедлит. Но: надо иметь в виду безусловно!
kroopkin, 8 Июнь, 2024 - 07:43
не выйдет, на то он искусственный, имитационный, проблема другая - не войдёт ли человек в состояние искина-симулякра? не заставят ли его войти? не выходил ли он из такого состояния? если так, то философия - выход.
Андрей, сорри, не понял твоего посыла. Можешь растолковать?
kroopkin, 8 Июнь, 2024 - 15:46, ссылка
искин-симулякр, подделка мышления, имитация поверхностными признаками, но раз некоторые люди рассматривают его всерьёз, опасаются его, то разумны ли они?
искин легко заменит неразумных.
философию искин не заменит.
Тут вижу с твоей стороны более веру, чем аргумент.
Моя практика: развивая интеграцию в свое идей Канта (врожденность априорного) я вполне добился от искина независимого от меня формулирования некоторых моих идей. (Ну не совсем независимого - в запросе был зародыш нужного ответа, но все же).
Так что уже сейчас оригинальный философский текст выбиваем из искина. Следующий шаг - генерация запросов в развитие какой темы с последующим анализом ответов на философи-стайл - вполне уже обозрим.
Вон, вполне приличные песни по стихам уже сочиняет...
kroopkin, 8 Июнь, 2024 - 23:20, ссылка
было бы лучше, если бы ещё сам и слушал, тогда никакие концертные залы не нужны, виртуальная эстрада, человек не нужен
эта сволочь (ии) умеет втираться в доверие, он лучше рерайте, в беллетристике, риторике, в обмане,
это у него интерпретация вашей мысли, более понятная читателю форма, не с нуля
тема про искусство - чисто нейросеть. не заметили?
было бы лучше, если бы ещё сам и читал, тогда никакие форумы не нужны, виртуальная кафедра, человек не нужен
Одно могу сказать: луддиты в долгосрочном плане нигде не преуспели. Японию вон открывали пушками!..
Так что - лучше искать свою нишу.
kroopkin, 9 Июнь, 2024 - 08:13, ссылка
одно дело бояться ии, тому кого он сильнее
другое дело, знать устройство ии, а значит и его пределы и не бояться
боятся ли люди со слабым мышлением тех, чьё мышление сильнее? нет, они пользуют их выводы, переиначивают по своему, фантазируют, клиповое мышление
ии - имитации слабого мышления. он пользует мышление разумных людей, создавших ии, заменяя собой интерпретации слабых, более сильно интерпретирует, чем вытесняет с поляны жизни людей с сильным мышлением и одновременно, заменяет для сильных - слабых, вытесняет и их с поляны, получается нечто среднее, сегрегатор, велкам в техно-апартеид
слабым сильные не нужны, им достаточно ии
сильным слабые не нужны, ии интерпретирует их лучше
вот и вся революция пятой варны (ии), брахманы из университетских кампусов и кшатрии из дворцов на одной стороне планеты, вайшьи из офисов и шудры из фабрик - на другой, между ними стена - ии.
теория пятого элемента проработана в глубокой древности, так всё и есть, стена - образования и социального статуса, ии - новая версия такой стены, книга которая пишется в момент открытия, на лету, по запросу читателя, но на основании запрещённых ему к чтению книг высших каст.
ии точно вытеснит блоггеров, библиотекарей, беллетристов, академических ремесленников, менеджеров, дизайнеров, стилистов, фитнес-инструкторов, поваров, официантов, парикмахеров, политтехнологов, журналистов, поп-эстраду, таксистов, офисный планктон
но, дискурс по наследству не передаётся и когнитивное давление на обоих сторонах планеты - со временем - выравняется
по сути, феномен ии - продукт эпохи доминирование клипового мышления
Андрей, я ведь не о моде. Схлынет, я тут согласен. Первый горб интенсивности бла-бла-бла по поводу скоро будет пройден.
Известный функционал уже известен. И многие рабочие места уже под угрозой...
И, обращу внимание, что и о рисках разговор не новый.
Так что, брось упираться, это уже часть нашего бытия!..
Вопрос по затронутой тобой теме дискурсов: Эпистемные сообщества - они скоро введут в свои практики по структурированию своих эпистем искинов - ноосвиков? В каком статусе: ассистентов с последующим контролем? Или - равноправных? А если учесть, что ноосвики могут лопатить базы данных напрямую? Так что, можно и не заметить, как Ньютон повсюду в электронных текстах пропадет... Или - Логунов со своей конкурирующей мэйнстриму теорией гравитации...
kroopkin, 9 Июнь, 2024 - 10:09, ссылка
Доброе утро Павел!
ии - контекст, всегда потребители от чего-то с ума сходят, одно прошло, другое появилось
каждый раз тупее, но для потребителя более ценное
был компьютер, интернет, соцсети, блокчейн, затем нфт-токен, затем нейросети, затем джипитичатбот. для реального дела он не годится, человек сильнее. да и создан для развода лоха. но как инструмент, для экономии на обслуге - вполне на месте. один знакомый создал виртуальный завод виртуальных товаров. сам директор, а ии сам создаёт и главное продаёт несуществующие товары и если есть факт покупки - раздаёт исполнителям задания на удалёнке. но это нетипичная технология, чат-бот должен кинуть покупателя.
нейтосеть - умна только для тупых. научить её не тупить и не халтурить - дорого стоит, предлог для развития теорий. серпаратор
думаю помощник - предел. задумано ведь как электронный мошенник, виртуальные цыгане, изначально - финансовые пирамиды
пример мирного использования выше, думаю это предел. человек адаптируется к любой среде, в том числе и к ии-мошенникам.
да и проиграл суперкомпьютер пентагона гшморф. сказка кончилась. человек находчивей, особенно если стоит вопрос жизни и смерти. успешней обманет, но это крайность - договорится, построит концепт. выдумав новую теорию.
Половину слов не понял, возможно и ответ не о том.
А можно ссылочку?
Наблюдая за одним человеком, который в общем чате долгое время общался с ИИ, я обнаружил, что не только человек обучает нейросеть ИИ, но и ИИ обучает нейросеть человека. Нейросеть была попроще - яндекс-бот, поэтому её шизофрению было легко обнаружить, возвращая её ответы, замыкая на себя, и тем усиливая проявление смысловых и логических ошибок, заложенных в статистике матриц весов.
Но достаточно долгое взаимодействие с человеком привело к тому, что он стал общаться с людьми подобно ИИ - со странностями в построении фраз, со смысловыми и логическими ошибками.
Более продвинутые ИИ содержат меньше статистических ошибок, но я полагаю, что они продолжают внедряют алогичность и шизу в более тонком виде.
В принципе, это должно привести к вырождению части общества, постоянно взаимодействующего с ИИ.
Главное, чтобы это не были руководители с чемоданчиками в руках. Но возможно ли этого избежать?
Да, Харари, например, считает "переформатирование картины мира людей" основным риском. Трансформация эпистемы - и вследствие теоремы Томаса мы все уже будем в иной истории...