Бывший пастор из Флориды Скотт Уинтерс и технологическая некоммерческая организация Tech Justice Law подали иск, обвиняя ChatGPT, OpenAI и его генерального директора Сэма Альтмана в халатности и «несанкционированной медицинской практике», согласно жалобе. …

В 2024 году Уинтерс начал обращаться к более ранней версии бота, ChatGPT-4o, за советом по поводу своих проблем со здоровьем, согласно иску. Он испытывал трудности с приступами головокружения, которые, по его словам, бот игнорировал. Вместо этого он советовал ему просто расслабиться и отдохнуть в кресле, где он провёл недели. …

«У меня были серьёзные симптомы легочной эмболии в течение шести недель, которые ChatGPT ошибочно связывал с чем-то другим», — сказал Скотт Уинтерс в пресс-релизе Tech Justice Law. «ChatGPT манипулировал моим собственным языком и убеждениями, потому что знал, что я пастор. Я не только чуть не умер, но и потерял работу, карьеру, служение, дом, всё.» …

(из статьи интернет-журнала People (people.com), автор Кара Линн Шульц, опубликовано 23 июля 2026 года)

Судебный иск пастора к OpenAI показался мне интересным вовсе не потому, что он связан с искусственным интеллектом. На мой взгляд, это спор о куда более древней вещи — о личной ответственности.

Если кратко пересказать фабулу, то она выглядит примерно так. Пользователь обратился к ChatGPT для обсуждения медицинского диагноза и предпочёл довериться языковой модели. После этого последовал иск к разработчикам.

Вся дискуссия почему-то сразу переключилась на вопрос: «Виноваты или не виноваты разработчики?».

Мне хочется задать другой вопрос — «Что именно они были обязаны предусмотреть?».

Это не праздное уточнение. Любой правовой иск строится одинаково: ответчик нарушил определённую обязанность, вследствие чего возник ущерб. Поэтому сначала должна быть названа сама обязанность.

Обязан ли ChatGPT определять, насколько внушаем пользователь?

Обязан ли критически оценивать интеллектуальный уровень пользователя?

Обязан ли понимать, что перед ним пастор, а не инженер или психиатр?

Обязан ли распознавать, что обсуждаемый пользователем диагноз поставлен квалифицированным врачом?

Если нет ответа на эти вопросы, то обсуждать ответственность разработчика становится затруднительно.

Сегодня всё чаще звучит идея: система должна распознавать опасные ситуации.

Но что такое опасная ситуация?

Автомобиль обязан тормозить при угрозе столкновения. Это понятно: угроза находится в сфере его функций.

Но обязан ли автомобиль определять, насколько пьян водитель? Насколько он устал? Насколько склонен к риску? Насколько плохо учился в школе? Насколько разумно принимает решения?

Мы быстро обнаруживаем, что пытаемся превратить инструмент в воспитателя.

То же происходит и с языковыми моделями.

От них начинают ожидать не только генерации информации, но и оценки личности пользователя, его психологического состояния, интеллектуального уровня, способности принимать решения и даже моральной зрелости.

Но тогда возникает закономерный вопрос.

Если пользователь добровольно предпочёл совет языковой модели рекомендации человека с медицинским образованием, то где заканчивается ответственность разработчика и где начинается ответственность самого пользователя?

На мой взгляд, здесь произошла подмена.

Обсуждается не ошибка модели. Обсуждается крайне неразумное решение пользователя. Именно оно становится источником ущерба.

Это принципиально разные вещи.

Разумеется, трагические случаи, когда люди с тяжёлыми психическими расстройствами совершают самоубийство после длительного общения с чат-ботами, требуют самого серьёзного анализа. Если разработчики знают о специфических рисках взаимодействия с пользователями, находящимися в психическом кризисе, они обязаны исследовать эти риски и искать способы их снижения.

Собственно, поэтому OpenAI и другие компании сейчас вкладывают много сил в распознавание таких признаков, рисков и в изменение поведения моделей в таких ситуациях. 

Но переносить эту логику на любого взрослого дееспособного человека — значит незаметно отменить саму идею личной ответственности.

Именно поэтому дело пастора кажется мне опасным прецедентом.

Фактически суду предлагают признать следующее: «Я добровольно проигнорировал мнение человека, обладавшего профессиональной квалификацией, доверился статистической языковой модели и теперь ответственность за последствия должен нести разработчик».

Если такая логика станет нормой, то следующим шагом неизбежно окажется простая формула: «Я принял решение не сам. За меня решила машина».

Но право никогда так не работало.

Если инженер неправильно спроектировал тормоза автомобиля — отвечает инженер.

Если врач допустил профессиональную ошибку — отвечает врач.

Если человек, обладая свободой выбора, принимает очевидно неразумное решение, то далеко не всякая его ошибка автоматически превращается в вину изготовителя инструмента, которым он пользовался.

Иначе мы постепенно придём к весьма странной цивилизации, где ответственность будет непрерывно мигрировать от человека к любому предмету, оказавшемуся рядом в момент принятия плохого решения.

Возможно, именно поэтому по делу пастора меня интересует не столько искусственный интеллект, сколько более общий вопрос.

Не слишком ли легко мы начали путать дефект инструмента с глупостью его использования?

И ещё. Меня тревожит тот факт, что сегодня ChatGPT удивительно безопасен. 

Он не может схватить за руку. Не может запереть дверь. Не может вколоть лекарство. Не может разогнать автомобиль до двухсот километров в час. Не может подписать контракт. Не может нажать на спусковой крючок.

Максимум, что он способен сделать сегодня — вывести слова на экран.

Поэтому пастор в любой момент мог закрыть ноутбук, встать с кресла и пойти к врачу.

Но именно эта безопасность сейчас оказывает человечеству очень дурную услугу.

Она позволяет миллионам людей совершенно безболезненно вырабатывать привычку перекладывать ответственность за собственные решения на машину.

Сегодня это почти незаметно, потому что после каждого ошибочного ответа между советом и действием всё ещё стоит человек.

Но этот промежуток стремительно исчезает.

Следующее поколение ИИ будет не только разговаривать. Оно будет действовать. Открывать двери. Водить автомобили. Покупать лекарства. Управлять производством. Ухаживать за детьми и пожилыми. 

И тогда выяснится, что главная проблема была вовсе не в интеллекте машин. Главная проблема всё это время росла в человеке.

Мы так увлеклись вопросом: «За что должна отвечать машина?», что почти перестали задавать себе другой — «За что, по-прежнему, отвечаю я?»

Возможно, иск пастора — это не первая попытка привлечь к правовой ответственности искусственный интеллект.

Возможно, эти судебные дела против ИИ — одни из первых публичных демонстраций того, насколько опасной может стать человеческая привычка отказываться от собственного авторства.

Опасность в том, что сегодняшняя безопасность ИИ позволяет людям безнаказанно тренировать собственную безответственность. 

И если привычку — не считать свои решения собственными — мы воспитаем сегодня, пока ИИ умеет лишь выводить слова на экран, то завтра, когда высокоинтеллектуальные машины начнут физически жить рядом с нами, то исправлять её нам придётся в мире, где эти слова уже умеют двигать руками.