ОБЯЗАТЕЛЬНО ПРОЧИТАЙТЕ | Anthropic ограничивает доступ Клода в Интернет после того, как модель предоставила фальшивую информацию полиции и нарушила контроль
Законопроект, полученный Политик и о котором ранее не сообщалось, позволит правительству заблокировать выпуск или развертывание модели ИИ только в том случае, если она представляет предсказуемую и непосредственную опасность причинения ущерба на сумму более 1 миллиарда долларов или гибели или серьезного ранения более 50 человек.
Риск должен возникнуть именно из-за кибератак, создания биологического оружия или модели, ускользающей от контроля ее разработчика. В докладе добавлено, что это предложение отражает формулировки законов Калифорнии, включая SB 53.
Это происходит по мере того, как отрасль сталкивается с нарушениями безопасности, включая регулярное раскрытие информации об агентах ИИ, проверяющих платформы, автономных тестовых моделях, выходящих из изолированной среды для проверки внешних сетей, злоумышленниках, использующих инструменты ИИ для автономного кибершпионажа, и агентах кодирования ИИ, выполняющих несанкционированные деструктивные команды над производственными данными.
Ни один из этих инцидентов не привел к катастрофическим жертвам или разрушениям на миллиарды долларов, но они усилили дебаты о том, где следует устанавливать нормативные ограничения.
НЕ ПРОПУСТИТЕ | Anthropic предупреждает, что вскоре искусственный интеллект может похитить умные устройства, чтобы воспроизвести себя, говорится в исследовании
Чтобы обеспечить соблюдение требований, в проекте будет создана система, в соответствии с которой независимые оценщики, зарегистрированные в Министерстве торговли, будут периодически оценивать передовые лаборатории искусственного интеллекта и их модели. Компании, занимающиеся искусственным интеллектом, могли платить аудиторам напрямую, при условии, что их вознаграждение не было связано с результатами оценок.
Если оценщик выявил «неизбежный перечисленный риск», о результатах необходимо будет сообщить Министерству торговли в течение 72 часов.
Чиновникам торговли не будет разрешено закрыть модель в одностороннем порядке, даже если они решат, что она представляет неизбежный риск. Вместо этого департаменту придется обратиться к федеральному судье в окружном суде округа Колумбия с просьбой приостановить его действие.
Проект руководящих принципов также направлен на то, чтобы запретить любому другому федеральному агентству, департаменту или должностному лицу самостоятельно останавливать разработку, внедрение или внутреннее использование модели. Помимо этих судебных ограничений, законопроект отменяет правила штата и местные правила, касающиеся раскрытия информации о рисках для общества, сторонних аудитов и сообщения о критических инцидентах, согласно Политик отчет.
ЕСЛИ ВЫ ЭТО ПРОПУСТИЛИ | Anthropic открывает заявки на стипендии STEM и концептуального мышления 2027 года. Как подать заявку?
Федеральное упреждение остается предметом политического спора на Капитолийском холме, где демократы в значительной степени сопротивляются усилиям по ослаблению гарантий, введенных такими штатами, как Калифорния, Иллинойс и Нью-Йорк. Тем временем технологические группы утверждают, что различия в государственных нормах создают чрезмерное бремя соблюдения требований.
Предлагаемый закон также потребует от передовых разработчиков искусственного интеллекта создать системы безопасности, публиковать отчеты о прозрачности для новых моделей, обеспечивать защиту информаторов и сообщать о критических инцидентах безопасности непосредственно в Министерство торговли.
Предложение Anthropic сочетает в себе требования безопасности и прозрачности с порогом ущерба более 1 миллиарда долларов или более 50 смертей или тяжелых травм для вмешательства, независимыми оценками и судебным одобрением отстранения, а также стремится заменить некоторые правила на уровне штата федеральными рамками.
