Высокопоставленный сотрудник Microsoft выразил обеспокоенность по поводу безопасности одного из инструментов генеративного искусственного интеллекта компании и призвал правительство США провести расследование. Шейн Джонс, главный менеджер по разработке программного обеспечения в Microsoft, направил письмо в Федеральную торговую комиссию США и совет директоров Microsoft относительно Copilot Designer, генератора текста в изображения, запущенного технологическим гигантом в марте 2023 года.
В своем письме Джонс выразил тревогу по поводу способности Copilot Designer создавать потенциально неуместные изображения, в том числе изображающие секс, насилие, употребление алкоголя несовершеннолетними и употребление наркотиков, а также примеры политической предвзятости и теорий заговора. Он подчеркнул важность информирования общественности, особенно родителей и учителей, о рисках, связанных с использованием таких технологий, особенно в образовательных учреждениях.
Джонс сообщил, что, несмотря на его неоднократные попытки решить эту проблему внутри Microsoft в течение последних трех месяцев, компания отказалась удалить Copilot Designer из публичного использования или принять адекватные меры безопасности. Он предложил добавить в продукт информацию о раскрытии информации и изменить его рейтинг в магазине приложений Android, но эти рекомендации не были выполнены.
Microsoft отреагировала на опасения, высказанные Джонсом, заявив, что компания стремится решать любые проблемы сотрудников в соответствии со своей политикой и ценит усилия по повышению безопасности своих технологий.
Это не первый раз, когда Джонс высказывается о проблемах безопасности ИИ. За несколько месяцев до написания письма в Федеральную торговую комиссию он публично призвал OpenAI удалить DALL-E, модель, лежащую в основе Copilot Designer, из публичного использования. Несмотря на давление с требованием отказаться от своих заявлений со стороны юридической команды Microsoft, Джонс продолжал выражать свою обеспокоенность, даже обращаясь к сенаторам США по поводу рисков безопасности ИИ.
Инцидент произошел на фоне растущего внимания к технологиям искусственного интеллекта в технологической отрасли. Google недавно приостановил доступ к своей функции генерации изображений на Gemini, конкуренте ChatGPT OpenAI, после жалоб на исторически неточные изображения, связанные с расовой принадлежностью. Демис Хассабис, генеральный директор DeepMind, подразделения искусственного интеллекта Google, заверил, что эта функция будет восстановлена после устранения проблем.
Алексей Петров – увлеченный пионер и основатель Richwenews. Обладая острым экономическим умом и глубоким пониманием мировых рынков, Алексей начинал как финансовый аналитик, прежде чем превратить свою страсть в создание инновационного медиа. Его преданность исследованию истины и предоставлению честной аналитики привели к формированию команды одаренных журналистов. Петров известен тем, что стоит за журналистской этикой и образованием аудитории, чтобы каждый гражданин мог принимать обоснованные экономические решения.