Стоит прочитать: США утверждают, что китайский ИИ Moonshot использовал Fable 5 от Anthropic для создания ИИ-модели Kimi K3
«Anthropic никогда не выступала за запрет моделей с открытым весом», — сказал Амодей. «Модели с открытым весом, не обладающие опасными возможностями, являются общественным благом», — добавил он.
Генеральный директор Anthropic раскрывает проблемы национальной безопасности
В своем блоге Амодей сказал, что модели открытого веса без опасных возможностей могут быть полезны с точки зрения предоставления существенной пользы разработчикам, исследователям и предприятиям при минимальных затратах. «Протекционистские запреты не решат моих самых серьезных проблем национальной безопасности», — сказал он.
Исполнительный директор также рассказал о двух основных рисках национальной безопасности, связанных с передовым искусственным интеллектом, включая потенциальное злоупотребление мощными моделями авторитарными правительствами:
Авторитарное преимущество: Амодей говорит, что его больше всего беспокоит не открытый или закрытый ИИ. Он подчеркнул, что наибольшее беспокойство вызывает то, что страны с авторитарными правительствами могут создать более продвинутые системы искусственного интеллекта, чем те, что разработаны в США.
Стоит прочитать: Anthropic подписывает соглашение о поставках с Samsung и SK Hynix на фоне гонки пользовательских чипов для искусственного интеллекта
Он выделил Коммунистическую партию Китая (КПК) как наиболее мощную потенциальную угрозу, и такие правительства могли бы использовать высокоразвитый ИИ для кибератак, в военных целях, а также использовать ИИ для массовой слежки, наблюдения за гражданами, контроля информации или подавления оппозиции.
Риски неправильного использования и согласования: Второе его беспокойство связано с неправильным использованием передовых моделей искусственного интеллекта. Он сказал, что «модели ИИ могут быть неправильно использованы для проведения кибератак или биологических атак и могут иметь серьезные проблемы с согласованием». Он говорит, что модели искусственного интеллекта с открытым весом могут нести более высокие риски, чем закрытые модели, и что их нелегко вернуть или контролировать.
Амодей предлагает политические действия
Амодей говорит, что вместо того, чтобы запрещать модели открытого веса, он предложил три конкретных политических действия, которые включают ограничение доступа к передовым чипам и оборудованию для их производства, ограничение использования иностранными авторитарными организациями высокопроизводительных американских моделей и оценку рисков для всех передовых моделей перед их публичным выпуском.
Тем не менее, он сказал, что модели с открытым весом приносят такие преимущества, как больше инноваций и конкуренции, но их не следует автоматически считать более безопасными.
