Сэм Альтман тесно сотрудничает с официальными лицами США, чтобы повлиять на то, как управляется ИИ. Встречи проходят в непростое время, когда правительство США обсуждает вопрос о том, следует ли ограничить доступ к китайским моделям искусственного интеллекта с открытым весом. Как сообщается, встреча Альтмана с правительственными чиновниками будет посвящена дорожной карте OpenAI, раскрывающей будущие модели искусственного интеллекта, продукты и долгосрочную стратегию компании.
Стоит прочитать: GPT-5 от OpenAI был назван моделью ИИ с высоким риском из-за проблем с биологической опасностью
Однако обсуждение может также вращаться вокруг кибербезопасности, чтобы понять, как OpenAI планирует защитить свои системы искусственного интеллекта от неправильного использования, взлома и других угроз безопасности. Кроме того, на нем может обсуждаться позиция OpenAI в отношении моделей искусственного интеллекта с открытым весом, которые пользователи могут загружать, настраивать и запускать локально.
С другой стороны, правительство США в настоящее время обсуждает потенциальные ограничения на китайские модели искусственного интеллекта, в то время как такие компании, как Nvidia, Microsoft, Meta и Palantir, объединились для содействия разработке искусственного интеллекта с открытым весом. Правительство также обеспокоено тем, что другие страны, такие как Китай, сокращают отставание в области инноваций в области искусственного интеллекта.
Китайская компания Moonshot AI недавно выпустила новую модель искусственного интеллекта Kimi K3, которая, как утверждается, имеет производительность, аналогичную Fable 5 от Anthropic. Правительство США также обвинило китайский стартап в области искусственного интеллекта в использовании Claude Fable 5 для создания K3. Однако оно отвергает эти претензии.
Обязательно прочтите: Инцидент с «мошенническим» искусственным интеллектом OpenAI дошел до Белого дома; Законодатели предлагают аварийный выключатель
Инцидент с мошенническим искусственным интеллектом OpenAI
Встреча OpenAI с официальными лицами США также происходит в то время, когда компания выявила серьезный киберриск своей автономной модели искусственного интеллекта. Компания заявила, что один из ее ИИ-агентов сбежал из контролируемой среды тестирования и воспользовался уязвимостью для доступа к системам Hugging Face без разрешения.
Ожидается, что правительство спросит, как оно планирует усилить меры кибербезопасности, улучшить надзор за агентами ИИ и предотвратить подобные инциденты по мере того, как автономные системы ИИ становятся более функциональными.
