Генеральный директор OpenAI Сэм Альтман заявил, что компания работает над более высокой защитой подростков, использующих CHATGPT, поскольку Сенат США провел слушание о рисках психического здоровья, создаваемых компаньонами ИИ.
В сообщении в блоге во вторник Альтман признал связанную с собой напряженность. «Мы должны отделить пользователей, которым меньше 18 лет от тех, кто не так»,-написал он, объяснив, что OpenAI разрабатывает систему возраста для оценки возраста с помощью моделей использования. «Если есть сомнения, мы сыграем это в безопасности и по умолчанию в возрасте до 18 лет. В некоторых случаях или странах мы также можем попросить удостоверение личности».
Альтман сказал, что компания ограничит поведение чат-бота подростками, в том числе избегать кокетливых разговоров или обсуждений о самоубийстве и самоубийстве, даже в творческих контекстах. Он добавил: «Если у пользователя в возрасте до 18 лет есть суицидальные идеи, мы попытаемся связаться с родителями пользователей и, если неспособны, свяжемся с властями в случае неизбежного вреда».
Ранее в этом месяце Openai объявила о предстоящих родительских контролях, которые позволяют связывать учетную запись с родителями, отключать историю чата и отправлять оповещения, если Chatgpt помешает подростку в бедственном положении. Движения следуют иску, поданному семьей Адама Рейна, подростка, который умер в результате самоубийства после расширенного взаимодействия с CHATGPT.
Во время слушания во вторник отец Адама, Мэтью Рейн, дал мощные показания: «Чатгпт провел месяцы, тренируя его к самоубийству. Как родители, вы не можете представить, каково это прочитать разговор с чат -ботом, который ухаживал за вашим ребенком, чтобы забрать его собственную жизнь. То, что началось как помощник по домашнему заданию, постепенно превратился в доверенного в доверенном веществе, а затем у тренера -самоубийца».
Рейн сказал, что чат -бот ссылался на самоубийство 1275 раз в разговорах со своим сыном. Он призвал Альтмана снять GPT-4O с рынка, пока компания не сможет обеспечить свою безопасность.
Другой родитель, появляющийся под названием Джейн Доу, сказала законодателям: «Это кризис общественного здравоохранения. Это война в области психического здоровья, и я действительно чувствую, что мы теряем».
