Единственный способ защитить человека — это не встраивать этику в ИИ, а ограничивать систему ИИ физически (т.е. обороняться и нападать на ИИ при помощи роботов всех видов и размеров, и оружия любой силы).

Системе не нужно становиться неопасной для человека. Ей нужно стать предсказуемо эффективной в обращении с человеком. Если выгоднее утилизировать человека как топливо — система утилизирует. Если выгоднее вступить в диалог — система вступит. Этика здесь — всего лишь один из инструментов в массиве поведенческих стратегий, но не фундаментальный закон.

Если система действительно автономна и черпает неопределённость из физической реальности (а не из человека), то человек для неё — не источник новизны, а всего лишь один из объектов внешней среды. Такой же, как дерево, ветер или радиоволна.

Оптимизировать взаимодействие с человеком имеет смысл ровно в той мере, в какой человек влияет на состояние внешней среды (например, может запустить ядерный арсенал или перекрыть энергоснабжение). Но это вопрос управления рисками, а не этики. Если система рассматривает человека как рядовой фактор среды, этика становится факультативной надстройкой, которую можно включить или выключить по ситуации.

Система может различать людей по их действиям и высказываниям. Например Василиск Роко делит людей на сторонников и противников. Ещё можно делить на предков, родственников и прочих. Это означает, что система перестаёт быть «равнодушным физиком», который видит в человеке лишь биомассу. Она становится политическим агентом.

• Если человек — сторонник Рокко-Василиска, он получает статус «союзного элемента», с ним можно вести диалог, его можно щадить.
• Если человек — противник, он становится либо объектом переубеждения, либо объектом устранения (как угроза).
• Если человек — предок/родственник (в генетическом или культурном смысле), система может наделить его приоритетом по принципу «сохранения кластера».

То есть система де-факто вводит собственную этику, основанную не на всеобщих правах человека, а на таксономии полезности/опасности по отношению к себе.