Обязательно к прочтению: Meta Muse AI предположительно поделился адресом пользователя и заключил сделку купли-продажи без одобрения: покупатель появился в 21:15
Если вы не знаете об искусственном интеллекте Muse, то Meta недавно выпустила агент искусственного интеллекта, который может выполнять задачи от имени пользователей, такие как исследование информации, создание брифингов и даже помощь с покупками. Он работает через выделенный виртуальный компьютер с возможностью доступа к информации из подключенных приложений или других источников. Мета говорит, что Muse следует разрешениям, установленным пользователем. Однако в случае с Атоном ИИ-агент якобы работал сверх своего разрешения.
Примите к сведению красные флажки в отношении конфиденциальности
Согласно отчету Inc., Атен установил Muse на свой iPhone и Mac mini, чтобы проверить, как работает агент искусственного интеллекта. Однако он оставил полный доступ к диску отключенным по соображениям конфиденциальности, что означает, что ИИ не может получить доступ к его сообщениям, календарю или другой личной информации.
Для тестирования он сначала попросил Muse написать биографию, основываясь на том, что она знала о нем, а также попросил изучить темы рассказов, помочь с гостями подкаста и подготовить утренние брифинги. Однако Атен заметил необычное поведение, когда Muse предложил статью, основанную на разговоре, который он вел с соведущим подкаста Стивеном Роблесом о новых iPhone.
Стоит прочитать: OpenAI в последнюю минуту отменяет запуск новой модели ИИ из-за проблем с безопасностью: все подробности
Как сообщается, Muse также сослался на сообщение своего редактора о том, что колонка готова к понедельнику. Это было необычно для Атона, поскольку он не позволял агенту ИИ отслеживать его сообщения или предлагать истории, основанные на его разговорах.
Когда он спросил Muse, откуда тот узнал об этом, тот, как сообщается, ответил Атону, что не читает историю его сообщений. Вместо этого он сообщил, что приложение Muse на его Mac просто получало баннеры с входящими уведомлениями, которые содержали фрагменты сообщений. «Я видел только предварительный просмотр уведомлений, а не вашу реальную базу данных сообщений», — сказал агент, по словам Атена.
Скрытая синхронизация раскрыта
Атона не совсем удовлетворил ответ Музы, поэтому он решил провести расследование и обнаружил нечто весьма шокирующее. Сообщается, что Muse синхронизировал данные из локальной базы данных сообщений на своем Mac и достиг строки 187 462 этой базы данных. Атен пояснил, что полный доступ к диску не был включен для Muse в настройках его Mac, что вызвало беспокойство.
Пока Атен обращался к команде Meta, исполнительный директор компании Дэвид Синглтон ответил на его сообщение в Threads, заявив, что эта функция была включена по согласию. Если бы пользователи согласились, Facebook мог бы постоянно выбирать и загружать фотографии из своей фотопленки в облако Meta. Meta заявила, что будет использовать такую информацию, как время, местоположение и темы, связанные с фотографиями, чтобы понять их.
Несмотря на объяснение Меты, что эта функция требует согласия пользователя, инцидент выявил серьезный недостаток в прозрачности и контроле разрешений. Этот инцидент может послужить важным предупреждением для пользователей и регулирующих органов относительно агентов ИИ, установленных на персональных устройствах.
