ИИ Muse от Meta вызывает вопросы конфиденциальности после доступа к сообщениям Signal, отображающим банковские балансы пользователей

ОБЯЗАТЕЛЬНО ПРОЧИТАЙТЕ | «Верните Дженсена»: соучредитель Uber говорит, что появится в штаб-квартире Nvidia, когда 200 000 человек подпишут петицию о возвращении Хуанга

Сообщается, что Muse AI получал доступ к сообщениям из Signal

Последние опасения возникли после того, как сотрудники Meta обсудили неожиданное поведение Muse во внутренних сообщениях, согласно сообщению Рейтер расследование, на которое ссылается 9to5Mac.

В одном случае сотрудница, использующая Muse на своем личном телефоне, получила напоминание о необходимости ответить на сообщение от сестры в Signal. Она сказала, что не предоставила помощнику доступ к другим приложениям и не вспомнила, что у нее спрашивали разрешение.

НЕ ПРОПУСТИТЕ | Скоро появится первый смартфон OpenAI? Сообщается, что производитель ChatGPT выбирает поставщика iPhone Foxconn для сборки

Сообщается, что в инциденте участвовал помощник, который перехватывал push-уведомления. Однако это объяснение вызвало дополнительные вопросы, поскольку аналогичное объяснение было дано в более раннем деле с участием писателя-технолога Джейсона Атена. Его приложение для Mac получило доступ к сообщениям, несмотря на то, что он явно отказал в разрешении, и Мета описала этот инцидент как ошибку. Институт AI Now впоследствии воспроизвел проблему доступа к сигналу.

Банковские балансы появляются во время несвязанного разговора

Другой сотрудник сообщил, что получил неожиданное сообщение, когда обсуждал с Muse погоду на рыбалке и условия прилива. Помощник неожиданно отобразил два финансовых отчета: баланс Capital One в размере 2722,58 долларов США (приблизительно 2,54 лакха рупий) и баланс Чарльза Шваба в размере 5899,57 долларов США (приблизительно 5,51 лакха рупий).

Сотрудник сказал, что он никогда не делился банковской информацией и не обсуждал свои счета с Muse, что вызывает опасения, что эти цифры могут принадлежать другому пользователю.

Мета описал эти случаи как отдельные инциденты и предположил, что финансовые цифры могли быть галлюцинациями ИИ, а не реальной утечкой информации.

Ранее возникшие проблемы безопасности усиливают внимание

Muse уже подверглась критике после того, как исследователь безопасности Патрик Уордл обнаружил уязвимость нулевого дня, которая могла позволить злоумышленникам перенаправлять продиктованные запросы на свои собственные серверы. Приложение было запущено в сентябре, первоначально для iPhone, затем появились версии для Mac и iPad. Он быстро превысил 5 миллионов загрузок, а затем удвоил эту цифру до более чем 10 миллионов.

Для вас эти инциденты выдвигают на первый план важный вопрос о том, какой доступ должен иметь ИИ-помощник к личным сообщениям, уведомлениям и другой информации для выполнения повседневных задач.