Гейтс не предсказывал, что ИИ неизбежно убьет миллиард человек. Вместо этого его предупреждение было сосредоточено на потенциальном масштабе вреда, если злоумышленники будут использовать расширенные возможности ИИ.
Что Гейтс подразумевает под «миллиардами смертей»?
Гейтс обеспокоен тем, что ИИ может значительно снизить барьеры для проведения сложных атак. «Никогда не было более мощного оружия, чем объединение людей со злыми намерениями, использующих новейшие инструменты искусственного интеллекта», — сказал Гейтс.
ОБЯЗАТЕЛЬНО ПРОЧИТАЙТЕ | Руководитель Microsoft AI предупреждает, что обучение искусственному интеллекту Anthropic может иметь «катастрофические» последствия
Обеспокоенность выходит за рамки возможности того, что автономная система искусственного интеллекта самостоятельно решит причинить вред человечеству. Гейтс также подчеркивает возможность использования людьми все более мощного ИИ в качестве умножителя силы.
ИИ и биологическая угроза
Одной из главных проблем Гейтса является возможность использования ИИ для содействия развитию опасных биологических угроз.
Системы искусственного интеллекта могут все чаще обрабатывать научную литературу, решать сложные биологические проблемы и помогать исследователям в молекулярном и генетическом анализе. Хотя эти возможности могут ускорить разработку вакцин, лекарств и методов лечения, они также потенциально могут быть использованы не по назначению.
НЕ ПРОПУСТИТЕ | Клод находит новый фермент в ДНК: может ли ИИ вступить в гонку открытий в области редактирования генов?
Это создает проблему двойного назначения: технологии, разработанные для законных научных исследований, потенциально могут быть перепрофилированы для вредных применений.
Эта обеспокоенность особенно серьезна, поскольку биологическое событие потенциально может распространиться далеко за пределы людей, непосредственно вовлеченных в его создание.
Кибератаки могут стать более мощными
Гейтс также предупредил о кибератаках с использованием искусственного интеллекта. Искусственный интеллект может помочь злоумышленникам автоматизировать части сложных операций, выявлять уязвимости и действовать в масштабах, которых раньше было трудно достичь. Потенциальные цели включают больницы, финансовые учреждения, электросети и государственные системы.
Оформить заказ | Предупреждение о безопасности ИИ: Сэм Альтман и Илон Маск поддержали призыв генерального директора Anthropic замедлить работу передового ИИ. Почему?
Результатом может стать ситуация, в которой отдельные лица или группы с относительно ограниченным опытом получат доступ к возможностям, которые ранее требовали высококвалифицированных специалистов.
Гейтс предупредил о нескольких рисках, связанных с ИИ
Предупреждение о миллиарде смертей является частью более широкого изменения в публичных заявлениях Гейтса об искусственном интеллекте. Ранее он выражал обеспокоенность по поводу увольнения, злоупотребления ИИ преступниками и влияния этой технологии на детей и человеческие отношения.
В то же время Гейтс по-прежнему оптимистично оценивает потенциал ИИ. Он утверждал, что эта технология может изменить здравоохранение, образование и сельское хозяйство и помочь решить проблемы, которые до сих пор трудно решить.
ЕСЛИ ВЫ ЭТО ПРОПУСТИЛИ | «Рыночные силы не могут гарантировать безопасность ИИ»: Обама предупреждает, что мотивы получения прибыли способствуют преждевременному внедрению ИИ
Это создает главный парадокс в позиции Гейтса: ИИ может стать одним из самых мощных инструментов человечества, одновременно создавая риски беспрецедентного масштаба.
Дебаты вокруг безопасности ИИ все больше выходят за рамки опасений по поводу потери рабочих мест и дезинформации. Исследователи и правительства также изучают риски, связанные с кибербезопасностью, биологическими исследованиями, автономными системами и потенциальным неправомерным использованием передовых моделей искусственного интеллекта.
Гейтс призвал правительства играть более активную роль в установлении гарантий, утверждая, что нельзя ожидать, что технологическая отрасль будет полностью регулировать себя.
