Стоит прочитать: только 5000 человек имеют доступ к агентам ИИ, которые могут выполнить годы работы за недели, говорит исследователь ИИ Андрей Карпати
Он также заявил, что если какая-либо система искусственного интеллекта выйдет из строя, то компании должны соблюдать более строгие правила безопасности и нести юридическую ответственность, если она причинит вред. Несколько гигантов искусственного интеллекта, в том числе Anthropic, Google DeepMind, OpenAI и другие, выражают аналогичные опасения.
Смит предупредил, что ИИ может быть как мощным инструментом, так и опасным оружием, и призвал к срочным регулирующим действиям. Он также призвал использовать «аварийное торможение» или «выключатели» для управления неконтролируемым искусственным интеллектом. Генеральный директор Microsoft Сатья Наделла ранее также призывал к моделям искусственного интеллекта иметь «аварийный тормоз».
Обязательно прочтите: От реактивного к проактивному ИИ: Сумит Сонал от Qualcomm излагает видение агентного ИИ на устройствах в Индии
«Мы не можем рассматривать суперинтеллект как набор вложенных друг в друга черных ящиков и просто принимать или отвергать его рекомендации, ответы и действия», — сказал Наделла. «Мы должны создавать автономные системы, поведение которых мы можем наблюдать, ограничения, которые мы можем проверить, и действия, которые мы всегда можем сдерживать».
Несколько компаний, занимающихся искусственным интеллектом, ставят безопасность искусственного интеллекта на первое место. Недавно OpenAI объявила, что приостановит разработку своей следующей модели ИИ, чтобы решить проблемы безопасности и оценить потенциальные риски, прежде чем приступить к дальнейшей разработке. Между тем, у Anthropic есть специальная исследовательская группа по безопасности ИИ, которая занимается изучением потенциальных рисков, оценкой возможностей модели и разработкой мер безопасности, обеспечивающих безопасность и надежность ее систем ИИ.
