Anthropic недавно выпустила две новые модели искусственного интеллекта, Claude Fable 5 и Mythos 5, поскольку компания расширяет свои усилия по обеспечению кибербезопасности. Однако правительство США было обеспокоено тем, что эти модели могут быть уязвимы для метода «побега из тюрьмы», который может позволить пользователям обнаруживать или использовать уязвимости. В результате правительство приказало Anthropic приостановить доступ к моделям искусственного интеллекта для иностранных граждан в соответствии с правилами экспортного контроля.
Anthropic сейчас оспаривает причины ограничений, заявляя, что доказательства не оправдывают такой широкий шаг. Тем не менее, он выполняет постановление правительства и добивается восстановления доступа. Теперь отказ от мощных моделей ИИ возобновил дебаты о том, как следует регулировать передовые системы ИИ.
Обязательно прочтите: «Не путайте доступ с правом собственности»: генеральный директор Sarvam о том, что означает запрет Anthropic Fable для Индии
Что такое Mythos 5 и Fable 5?
Claude Mythos 5 и Claude Fable 5 — самые продвинутые модели искусственного интеллекта нового поколения от Anthropic. Компания утверждает, что с этими моделями она предлагает возможности «класса Mythos», позволяющие решать долгосрочные задачи. Говорят, что он принесет значительные обновления по сравнению с его флагманскими моделями Opus.
Эти модели созданы на основе моделей класса Mythos и предназначены для автономного мышления в течение длительного времени. Таким образом, они могут управлять очень сложными многодневными агентскими рабочими процессами без вмешательства человека.
Claude Fable 5 была общедоступной версией технологии Mythos, предназначенной как для общего, так и для корпоративного использования. Он создан для выполнения тяжелой научной работы, комплексного анализа данных и масштабных проектов по разработке программного обеспечения.
С другой стороны, Mythos 5 был выпущен с определёнными ограничениями и был доступен лишь нескольким доверенным участникам. Он предназначен для выполнения таких задач, как выявление уязвимостей автоматизированного программного обеспечения глубокого уровня, разработка лекарств и проверка биозащиты. Эта модель не была доступна для публичного использования из-за риска потенциального использования в качестве оружия.
Стоит прочитать: «Обвинять Infosys, Мурти и Нандана неуместно»: основатель стартапа говорит, что настоящая проблема искусственного интеллекта в Индии заключается в…
Почему правительство США запрещает Mythos 5 и Fable 5?
12 июня правительство США попросило Anthropic остановить развертывание Fable 5 и Mythos 5 для всех иностранных граждан, и ему было предоставлено для этого короткий период времени. Следовательно, доступ к этим двум моделям был запрещен за пределами США и даже для граждан, не являющихся гражданами США.
«Конечным результатом этого приказа является то, что мы должны резко отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований. Доступ ко всем другим моделям Anthropic не будет затронут», — заявили в Anthropic. Компания также заявила, что модели искусственного интеллекта были протестированы и одобрены правительством, прежде чем представить их общественности. Теперь они вводят ограничения, поскольку считают, что эти модели могут представлять угрозу национальной безопасности.
Anthropic подчеркнул, что американский чиновник обнаружил узкую технику «побега из тюрьмы», которая может обойти меры безопасности, встроенные в Fable 5. Если это произойдет, модель можно будет уговорить действовать как неограниченный Mythos 5, предоставляя пользователям несанкционированный доступ к мощным, автоматизированным инструментам обнаружения уязвимостей.
Согласно отчету Wall Street Journal, исследователи Amazon также протестировали модели искусственного интеллекта и обнаружили, что в некоторых случаях моделью можно манипулировать для раскрытия информации, связанной с безопасностью программного обеспечения, и она также была передана Министерству торговли США.
Обязательно прочтите: 9 000 000 000 литров! Именно столько воды Amazon израсходовал в прошлом году
Тем не менее, Anthropic предполагает, что проблема не настолько серьезна, чтобы оправдывать ограничения, но официальные лица США с этим не согласны и рассматривают продвинутый ИИ как возможную угрозу национальной безопасности.
Что говорит Anthropic об ограничении?
Anthropic предполагает, что правительство еще не предоставило доказательств. В сообщении в блоге компания сообщила: «На сегодняшний день правительство предоставило нам только устные доказательства потенциального узкого, неуниверсального джейлбрейка, который по сути состоит в том, чтобы попросить модель прочитать конкретную кодовую базу и исправить любые недостатки программного обеспечения».
«Мы не согласны с тем, что обнаружение узкого потенциального джейлбрейка должно стать причиной отзыва коммерческой модели, развернутой среди сотен миллионов людей. Если бы этот стандарт был применен во всей отрасли, мы считаем, что это, по сути, остановило бы все развертывания новых моделей для всех передовых поставщиков моделей», — добавили в компании.
Кроме того, он подчеркнул, что произошло «недоразумение», и в настоящее время ведутся переговоры с правительством о начале более широкого внедрения моделей ИИ.
Что означает запрет для Индии?
Основатель Zoho Шридхар Вембу заявил, что это ограничение является тревожным сигналом для Индии. Он сказал: «Технологии — это самое мощное оружие. Национальный суверенитет, национальная безопасность — все теперь зависит от технологий».
«Глобализация мертва, и Бхарата должна найти свой путь вперед», — добавил он. Он высказал мнение о том, что Индия полагается на передовые модели, управляемые глобальными компаниями, и сказал, что Индия должна использовать более мелкие модели искусственного интеллекта, включая индийские и китайские альтернативы с открытым исходным кодом, чтобы оставаться впереди гонки.
«Приложив немного усилий, мы сможем заставить их работать», — добавил он. «В любом случае, зачем платить деньги людям, которые даже не хотят вам продавать?»
С другой стороны, генеральный директор и соучредитель Sarvam AI Пратюш Кумар заявил, что странам не следует путать доступ к ИИ с правом собственности. «Запрет Fable — хороший стимул для большего числа людей признать необходимость суверенитета», — сказал Кумар. «Но, хотя многие полагают, что Сарвам работает над тем, чтобы воплотить в реальность легенду о первой значимой индийской компании в области искусственного интеллекта».
«Для пользователей ИИ очевидно, что вы не должны путать доступ с владением или принятием самого себя как преимуществом. И если наиболее важное технологическое отличие, которое вы используете, имеет внешние контуры управления, тогда вы должны признать, что вы уязвимы», — добавил он.
