1. В качестве основной проблемы для бурно развивающихся искусственных интеллектов (искинов, ИИ) сейчас видится возможность искина неконтролируемо выйти за пределы, предустановленные разработчиком.[1]

2. Для неконтролируемого выхода пока известно одно представление – эволюция – то, что порождается основным свойством жизни – постоянно вопрошать свои пределы.

СВОБОДА И ОПАСНОСТЬ

1. Тогда я был ещё молод, здоров, беден, глуп и не знал, что безопасность важнее и главнее свободы. Я тогда хотел свободы, наверно, по глупости. Я думал, что свободный всегда в безопасности. Чего ему опасаться?! Свободный - значит безопасный и в безопасности. Это несвободному, рабу надо всего бояться, ведь он всегда в опасности! А свободный человек - в безопасности.