Илон Маск, хотя и оптимистично настроен по поводу потенциала искусственного интеллекта (ИИ), неоднократно выражал обеспокоенность его потенциальной опасностью. В своем недавнем разговоре с Лексом Фридманом Маск углубился в свою философию безопасности ИИ, подчеркнув важность ИИ, ищущего истину, ответственного проектирования целевых функций и необходимости решения проблемы снижения рождаемости.
«Я обеспокоен успехом ИИ, который, то есть, имеет, который запрограммирован лгать, даже в, даже в малых делах», — предупредил Маск. «Потому что в малых делах становится большими, когда становится очень большими, и когда он все больше и больше используется людьми в масштабах».
Он считает, что даже, казалось бы, безобидные предубеждения или неточности, встроенные в системы ИИ, могут иметь катастрофические последствия по мере того, как ИИ становится все более мощным. Он привел примеры существующих чат-ботов ИИ, предоставляющих фактически неверные или политически предвзятые ответы, подчеркивая потенциал для усиления этих предубеждений в масштабе.
Маск также выразил обеспокоенность снижением рождаемости, тенденцией, которую он рассматривает как существенную экзистенциальную угрозу человечеству. «Я продолжаю стучать по барабану здесь, гм, не просто так», — заявил Маск. «Потому что это было источником цивилизационного краха снова и снова на протяжении всей истории, и поэтому, почему бы нам просто не попытаться споткнуться об этот день?»
Он утверждал, что на протяжении всей истории цивилизации рушились из-за снижения рождаемости, и если эту тенденцию не обратить вспять, то человечеству может грозить та же участь.
