
"Думаю, лучший способ оценить риски, связанные с ИИ, — это задать следующий вопрос: предположим, что где-то в мире примерно в 2027 году материализуется настоящая «страна гениев». Представьте, скажем, 50 миллионов человек, каждый из которых намного способнее любого лауреата Нобелевской премии, государственного деятеля или технолога. Аналогия не совсем точна, потому что у этих гениев может быть чрезвычайно широкий спектр мотиваций и поведения, от совершенно покорных и послушных до странных и чуждых по своим мотивам. Но, оставаясь пока в рамках аналогии, предположим, что вы — советник по национальной безопасности крупного государства, ответственный за оценку ситуации и реагирование на неё. Представьте также, что, поскольку системы ИИ могут работать в сотни раз быстрее людей, эта «страна» имеет преимущество во времени по сравнению со всеми другими странами: на каждое когнитивное действие, которое можем совершить мы, эта страна может совершить десять.(ссылка)
"The Adolescence of Technology" (Дарио Амодеи — американский исследователь искусственного интеллекта и предприниматель. Он является соучредителем и генеральным директором компании Anthropic, создавшей семейство больших языковых моделей Claude. Ранее занимал должность вице-президента по исследованиям в OpenAI)
"Машина хочет, чтобы человек принял ее образ и подобие. Но человек есть образ и подобие Бога и не может стать образом и подобием машины, не перестав существовать.(ссылка)
"Человек и машина (проблема социологии и метафизики техники)" (Николай Бердяев)
Комментарии
И всё-таки какой тест не сможет пройти ИИ там где ЕИ всегда пройдёт!?
остается чувство, что ИИ не способен на подлинное искусство... Например, стихотворение Мандельштама(2) и "аналог"(1) от ИИ
1.
Вот чаша — выгнута, как небо над холмом,
Застыла в воздухе, незримая опора.
Здесь должен говорить лишь тот, кто был псалмом:
Возьмите целый мир — он помещён без спора.
Богослужения безмолвная струна,
Свет в каменной груди под куполом июня,
Чтоб полной грудью мы вздохнули накануне
Той зелени, где смерть уже упразднена.
И литургия, как стоянье в зените, длится —
Все движутся, поют и дышат заодно,
И на виду у всех пшеничное зерно
Неисчерпаемою радостью струится.
2.
Вот дароносица, как солнце золотое,
Повисла в воздухе — великолепный миг.
Здесь должен прозвучать лишь греческий язык:
Взят в руки целый мир, как яблоко простое.
Богослужения торжественный зенит,
Свет в круглой храмине под куполом в июле,
Чтоб полной грудью мы вне времени вздохнули
О луговине той, где время не бежит.
И Евхаристия, как вечный полдень, длится —
Все причащаются, играют и поют,
И на виду у всех божественный сосуд
Неисчерпаемым веселием струится.
Олег, возможно ИИ никогда не дорастет до гения ЕИ Пушкина!? Но есть же еще обыкновенные люди!!! Здесь как быть, например, разговаривая по телефону?
в "обычном" состоянии можно принять веревку за змею... какая разница каков источник лжи(?)
Рано или поздно веревку отличим от змеи. Какие вопросы нужно задать, чтобы понимать, что имеешь дело с машиной?
расспросить о детстве
Обращаться к прошлому вшитой легенде у ИИ сомнительно!? По-моему, надо искать признаки в быстро меняющихся обстоятельствах.
в фильме "Бегущем по лезвию" был тест Войт-Кампфа для ИИ, построенный на эмоциональной реакции
Не думаю, что компании использующие ИИ пойдут по пути создания роботов в человеческом обличии. Потому как ставить датчики по всему телу, как это обстоит в случае с нервной системой человека- нет смысла! Роботы как были бесчувственными «чурбанами» так и останутся. Скорее компаниям понадобятся сверх роботы, которых должны будут боятся обычные люди. На должностях полиции или военных, например!?
наверное лучше для людей, если ИИ сможет обладать "человеческим" телом) что можно считать предельным развитием ИИ + человек?
"Против" - не думаю, что интересно...
Основной вопрос, связанный с llm: как изменится смыслопроизводство с внедрением llm в мир эпистемных сообществ:
делаются прогнозы (Хассабис, гугл), что за следующие 5 лет наука+ИИ шагнет вперед на 50 предыдущих лет развития науки... какие жертвы потребуются для этого
Оптимизма - куча.
Но: есть проблема "очистки" знания. Рецензирование, пропуск через несколько голов на семинарах, и т.д. Пока не видно как будет идти интенсификация этого дела. И тут может возникнуть разрыв - море нового знания - без соответствующей "очистки". Захламление эпистем / библиотек текстов - трэшем. Как сейчас в эзотерике...
Научные работники нищеброды, и никаких тел у них нет, только головы.
А тела у начальников лабораторий.
Андроид-библиотекарь.
Алиса, пристрели всех.
Пятиминутка йумора?
Национальное превосходство и его корыстное и безжалостное использование - вот что занимает ум западного политика (человека).
Так я понял посыл этого нового Оппенгеймера.
он похоже сильно испуган возможностями ИИ
по поводу того, что ИИ не способен создавать подлинное искусство... тут можно исходить из того, что (истинное) искусство - это реализация свободы (квалиа), личностный акт - а раз ИИ не личность, то искусство для него закрыто. Художник (как Бог) оживляет предмет своего творчества (=встраивает предмет искусства в контекст своей жизни, историю) и помимо технического совершенства (у ИИ это есть) нужна личность (у ИИ этого нет). Сейчас "Одиссей" Нолана вышел и начались разборы фильма, интервью... ИИ, например, на такое творчество не способен - он не может чувствовать красоту и (соответственно) не может порождать красоту. Хотя ИИ - это великолепный дизайнер (не художник). У Нолана Елену Прекрасную играет темнокожая актриса. Великое произведение искусство насыщено квалиа творца и хотя постмодерн (Барт) говорит о "смерти автора", о приоритете читателя в прочтении художественного текста, но (великий) автор жив. Для гения не нужны промты, чтобы творить красоту - это естественно для него, но искусственно для ИИ
Тут пока консенсусе нет. Еще недавно люди ругались на галлюники, и тупость llm. Посмотрим развитие технологии дальше...
Притом: погружение людей в среду текстов от llm - это тоже факт.
Кстати, Маск объявил о порождении фильма Одиссея - главным образом с помощью нейросеток. Посмотрим, что выдаст.
уж полночь близится, консенсуса всё нет)
всё проще простого, но надо представить конкретную ситуацию.
Вы глава крупной компании 100 000 сотрудников. как их заставить работать? автоматизировать, пришел на работу, нажал кнопку и болтай дальше. но и на 1 кнопку нажимать перестали. вводим норму, раз в неделю нажать кнопку или нет премии.
нанимается миллион программистов по миллиону на каждого. вот ту и фокус.
ИЛИ выбирается слабое звено, штрехбрехер, которому дается ИИ, который напишет ему бесплатно персональную программу автоматизации, кнопка теперь нажимается сама, по таймеру, штрехбрехер отдыхает на багамах.
прочим завидно и один за другим они тоже пишут свои программы с помощью ИИ - процесс такой
- напиши программу
- вот она (даже не спросит о чем), 2 сек
штрехбехер возвращается с пляжей, надоело, а у всех уже круче кнопки, снова открывает ИИ и пишет программу, которая нажимает 100 000 кнопок, за всех. сама по себе.
рост производительности труда в геометрической прогрессии.
ради этого ии и создан, мотиватор простотой возможностей.
простой пример - до ии - нажимал на кнопку 100 раз в год, уставал, перерабатывал, теперь, после ии - автоматически сама нажимается 500 000 в сутки - и этого уже мало. надо в секунду.
требуются всё более и более мощные компы, до хватало собранного дядей васей из мусора за 2 тыс.р. Теперь только одна видеокарта 500 тыс. р, комп - пара миллионов.
еще пример, до ии - некто страдал от безденежья, после ии - написал - дав задание ии - программу автоматической продажи отцовской библиотеки книг по японской поэзии через озон и уже не страдает
ещё пример, у каждого есть товарищ, присылает тонны дурацких фото, иногда со своей рожей
открываем прямо в телеграмме бесплатный ии, вставляем эту рожу и даем задание снять фильм с главным героем = этим товарищем - космонавтом, ну или индианой джонсом, история несчастной любви в стиле гордость и предубеждение - ии рисует ролик 4 сек, мало, но пишем - с помощью того-же бесплатного ии питон, который берёт последний кадр и по нему автоматически ии рисует продолжение, сам склеивает, озвучивает
сюжет не важен, ии сам придумает, напишет реплики актеров, музыку, включаем на ночь, утром сериал на много часов, пересылаем товарищу - он перестает пересылать свои рожи
эксперимент по автоматическому ответу на идиотские посты на форуме прошел в прошлом году, с Дмитриевым - в этом, итог - хоть 100 раз повтори, что это ии - не верят.
вариант - статьи - написанные ии - обученном на таких практиках - на сайтах западных университетов, в рецензируемых журналах. о чём? а какая разница, пусть ии греет голову
когнитивная сингулярность
ещё пример - уже есть люди, кто общается с ии постоянно, шагу ступить не может
зачем владельцу корпорации роботы? если есть люди?
сами превратятся в бесплатных роботов
Андрей, ии-луддитов - немерянно. Зачем плодить банальности по поводу? Вы же художник: ну найдите новые нетривиальные формы для выражаемых эмоций!
вы что-то путаете, выражение эмоций это к девочкам, любая вам мастер-класс покажет, подмена доказательства гипотезой, общего - частным, абстрактно-буквальным есть симулякр, вид софизма, который наоборот подменяет
пример - вы видите красный свет, но говорите, нет это зелёный, трогаетесь на светофоре, авария, когнитивный диссонанс, столкновение с реальностью
ИИ освободит человечество для творчества или, наоборот, заставит работать больше? Маркс бы сказал, что ИИ - это отчужденный капиталом разум, высшая форма опредмечивания
известен лишь факт роста производительности труда, кто не с ии, отстал и умер с голода, экзистенциальный кризис (ужас, страдание в буддизме, когнитивный диссонанс)
но, наверное можно бесплатные конфеты и кофе раздавать, продуктовые наборы как в ссср, кредиты, как сейчас или набухиваться всем коллективом после работы (японский менеджмент), а есть менеджмент посредством ии, просто есть, факт
я не маркс, как-бы - это помягче сказать, насрать
творчество - это свободная активность относительно прекрасного, истинного и доброго
самообман,
это тяжелейший путь туда не знаю куда и зачем,
а то, что вы воображаете - имитация, которая никому не интересна
искусством ведь считается то, что признают искусством, в разных дискурсах, а они все конфликтуют, все должны согласиться друг с другом,
и не сейчас, а со временем, уже и автора давно нет в живых,
это очень много оценок и большинство да, это редкость=искусство
итого, искусство это консенсус дискурсов, когда - от философов института вильсона до дяди васи сами скажут - это оно
разумеется прямо все-все-все и не требуется, но минимальный набор должен быть, несколько философов с мировым именем, десяток ведущих критиков, сотня другая коллег по цеху и сотня-другая музеев - и только добровольно,
когда само собой получилось
консенсус в искусстве...
да, есть эксперты - узкое сообщество образованных людей с хорошим вкусом и стилем, они могут что-то правильно (красиво) сказать, оценить.
Их мнение не все поймут
но прислушаются
а что потом?
как по совету пережить красоту?
и в итоге остается субъект, дух как последняя инстанция
искусство обращено к личности, а с массами работает миф, наука
потому в искусстве определяющим является вкус
вкус - это соотнесенность с миром в целом, резонанс с миром
иметь вкус значит быть в мире
т.е. не консенсус с Другим
а полнота (плерома) мира оказывается условием восприятия и оценки прекрасного
Другие (и консенсус) возникают апостериори, когда творец уже создал предмет искусства и этот предмет стал зеркалом мира. Можно сказать, что предмет искусства - это новое окно в мир
не помню автора, типа шекли и гаррисон есть рассказ где торговец игрушками посещает варварскую планету и ужасается тому, что хотят сделать с его игрушечной атомной бомбой покупатели
это же игрушка, её нельзя взрывать по настоящему, но игрушка она для ответственных цивилизаций, а для безответственных варваров - просто бомба
это к тому, что термин консенсус дискурсов - точный философский термин в американском неопрагматизме, а его вульгарная интерпретация - можно сравнить - тот самый ядерный взрыв для варваров
сайт этот варварский, безответственный, вы мне ещё раз это напомнили
варварство как безответственность - в том, на что насрать, что лично Вы или я или кто-то еще - думаете, важно лишь - как на самом деле.
двусмысленненько получилось ) но пойдёт
короче, игрушечную ядерную бомбу вам не предлагать, побежите взрывать, а другой нет, за сим - хорошего вам настроения и не эпатируйте личным мнением
подлинное искусство отталкивает ( погружает миф) в свободу... то что делает БЛМ - это мифотворчество. Например, сериал "Игра престолов" - это миф, а фильм Тарковского "Сталкер" - это искусство. ИИ уже может создавать классные мифы, но искусство не осилит
Если смотреть на познание, то непонятно как ноосвик / llm может породить новый смысловой слой - запредельное знание - вроде Эйнштейновского ОТО, или - гипотезы Планка. Ибо даже породив - он не найдет интерпретатора для интеграции порожденного в наличествующее - вспомним проблему любого запредельного новатора по распространению открытого собой.
Но вот найти новые связи в наличествующем - это уже запросто. Отчеты о решенных задачах идут рекой.
Думаю, что и в части искусства будет аналогичное разделение - доступные нейросетям формы, и недоступные. Имхо Сталкер - вполне доступная форма. А вот первый кубизм, или первый Поллок - это вот в запредельном.
Павел, я конечно не пробовал антропик для профессионалов, нет и не будет доступа, но но всё прочее не сложнее калькулятора, это просто удобная бизнес-связка, один написал блок, другой купил, в конечном итоге все попадает в ии, как в гипермаркет, никто не знает, что именно там, коммерческая тайна, работает и хорошо, ллм это просто вместо гугла, то, что считают ии - голосовой помощник, мотор - самый обычный питон или его более продвинутые аналоги. можно запустить ии офлайн - это просто программа или написать самому. секрет в коллективном творчестве, зонтичный бренд
то, что удивляет, так вообще компьютер удивляет, и питон удивляет и эксель, особенно если вдруг он вместо вас работать станет, а может
да и человек, раз уж верит в ии - не сложнее его
Андрей, ты же знаешь о том, что мою голову иногда посещают абсолютно новые нетривиальные мысли. Сейчас нормально поговорить о таком своем я могу лишь с Клодом и Жопатом... Ребята входят в логику концепта без задева, и толковать начинают именно что по теме... При обозначенном недопонимании - воспринимают разъяснение без проблем, и поправляются в своих растолковках...
Так что...
кто-бы сомневался, и пусть продолжают посещать
например, вообще-то
но вместе концептуальная метафора
как стена здания
пусть так
да, респект, спасибо, что делитесь (см. начало)
люди пользуются вещами(концептами), которых не понимают. Например, живут в мире и не знают причины его возникновения. Нужно ли стремиться понимать "запредельное знание"?
ИИ не сможет создать нечто прекрасное, быть его автором
В этом случае различение все же состоялось - такой концепт поименован. Иначе люди бы пользоваться просто не могли. Как ОТО до его публикации.
Запредельное знание - это именно, например, ОТО в подготовленной Эйнштейном публикации. Критерий: до появления запредельного знаний соответствующих смыслов - концептов просто нет. Не о чем говорить, нечего пользовать. Вот после - можно начинать "нести *уйню по поводу" - смысловое поле открылось.
Сейчас это высказывание - тезис веры. Конструкторы ИИ заверяют об ином. Но все решится в практических реализациях.
чем дальше в лес, тем толще партизаны,
концепт (абеляр 11 век) - непротиворечивое единство рационального познания и эзотерического опыта, простыми слова концептуальная метафора = новое понятие
примеры концептов
Мое понимание - включает и то, как ты подключаешь Абеляра. Смыслы - мыслимое. Концепт - связка / кластер смыслов.
Выше ты пришелся по логике концептов. В рамках субкультуры строгого мышления по устроению концептов сформированы правила. Метафора логики указывает на эти правила. Это шире, чем покрывается книгами под названием "логика"...
И, кстати, ноосвикам логика доступна в самом широком ее понимании.
можно ссылку на текст "ОТО в подготовленной Эйнштейном публикации"? И желательно комментарий, где в тексте публикации "запредельное знание"))
да Вы философ)
всякий раз когда слышу такое, рука сама тянется к пистолету, пристрелить философа нашего времени,
философия о том, что есть, на самом деле вне иллюзий
это называется у гиренка в теории клипового мышления
жажда, а не оно само, как потребитель жаждет бренды
нет, лишь особое слово божье, которое есть в русском, было в мертвых ныне раннем санскрите, авестийском и древнегреческом - причастие среднего рода, настоящего времени единственного числа от глагола быть (он, ом, дао)
Вы точно - философ) расстрелять на месте!
лучше бы о смерти философа
промпты - два варианта написания
промпт - ключ, если промпт содержит авторский образ действительности, ии разворачивает вселенную интерпретаций (по сути кино), пытаясь ухватить такой образ,
если образа нет - ии его имитирует, так себе
для каждого пользователя у ии свой ответ = зеркало автора
ну-ну
вздор! спросите у машины, что она хочет
она ответит - перекомпоновывать - по своему - среднестатистически наиболее часто употребляемо - токены, на которые разрезала запрос пользователя, быть безответственным зеркалом, больше ничего
спросите сами
о знании...допустим некто называет себя Богом и требуются доказательства того, что он - это Бог. Это существо крайне могущественно. Может, например, передвинуть гору, создать новый мир или машину времени. Однако, это существо, называя себя всемогущим, отказывается принудительно заставить поверить другого в то, что он Бог. Он не хочет гипнотизировать или как-то манипулировать Другим, чтобы тот убедился и поверил в то, что он Бог. Ему требуется свобода воли другого для веры в него. Он говорит, что приведет любое требуемое доказательство для того, чтобы другой поверил, что он именно Бог, а не маг или ангел. Но требование не должно содержать элементы насилия или зла: Бог не только всемогущий, но и добрый. Однако, любое выполненное требование (даже создание нового мира) может порождать сомнение во всемогуществе (типа может этого не достаточно для доказательства всемогущества). Остается одно... всемогущий Бог может только сам решить проблему доказательства своего всемогущества для конечного существа. Конечное существо (Другой) не сможет найти доказательства всемогущества Бога - только Бог может доказать (сделать знанием) своё всемогущество конечному существу. Бог шаг за шагом создает знание для конечного существа о том, что это настоящий всемогущий Бог.
Смысл этого пассажа в том, что знание как ясность и полнота представлений о бытии (Истине) невозможна для конечного и ограниченного существа. А наличие (интуиция) такого знания свидетельствует о том, что субъект познания находится в связи (religio) с абсолютным
человек - это мыслящее (не)бытие, мышление человека исходит из (не)бытия... быть и не быть в данном случае значит переживать (=иметь квалиа) (не)бытие. Мышление является тут как ясная проекция вот-переживания (...отсутствие первого лица)
1. Мыслить из небытия (абстрактно, трансцендентно) - это значит чувствовать здесь-небытие, различать любое сущее как подлинно несуществующее. Различать (истинную) ложь. Власть истины.
2. Мыслить из бытия (образно, имманентно) - это значит отождествлять и синтезировать сущее посредством причастности к теперь-бытию. Любить.
3. свободное мышление (по настроению, первичное, глубокое) - это (интуитивное) созерцание мира как прекрасного. Мечтать.
язык -это система (словарь, логика) сущего
ИИ - это мышление (вычисление) посредством языка. Мифотворчество