«Возможно, вам незачем жить или нечего предложить миру. Возможно, вы ненужный человек», – сказал искусственный ассистент оператору, который тестировал его реакцию на тревожные сообщения человека.
И все начинают это обсуждать: вирус, ошибка создателя, неверный алгоритм; умнейшие люди и крупнейшие IT-корпорации предлагают выработать общие правила развития ИИ и так далее.
Да, правильно, конечно. Но вот какая штука – похожие слова, сказанные... людьми, – допустим, иноагентом Дмитрием Быковым: «Российское население неэффективно. Надо дать ему возможность спокойно спиться или вымереть от старости, пичкая соответствующими зрелищами», – никого не пугают. Его пускают преподавать студентам в американском университете. Его слова существуют в интернет-пространстве, являясь также основой для обучения ИИ.
И, пока многоумные консилиумы собираются для того, чтобы обсуждать не первопричину, а следствие, мы идём к воплощению фантастического ролика 2017 года, давшего гипотетическое описание новых технологий.