По словам семьи, Чатбот подтвердил «самооттрадные мысли» 16 -летнего сына
Родители Адама Рейна, 16 лет, которые покончили жизнь самоубийством в апреле, подали иск против Openai. Мэтт и Мария Рейн подали иск во вторник (26.go.2025) в Верховный суд Калифорнии, утверждая, что Чатгпт призвал своего сына покончить с ней, подтвердив »Самостоятельные мысли”
Это первое действие, обвиняющее компанию по ответственности за смерть (Неправильная смертьпо-английски).
Согласно отчету Би -би -сипроцесс включает в себя записи разговора между подростком и CHATGPT, в которых Адам поделился суицидальными идеями. Согласно аргументу действия, Chatbot подтвердил «Более вредные и саморазрушительные мысли » молодого человека, вместо того, чтобы отправлять его в специализированную помощь.
Мэтт и Мария утверждают, что взаимодействие ребенка с CHATGPT и последующее самоубийство вызвалось непосредственно из -за проектных решений платформы. Семья утверждает, что Openai создал программу »для развития психологической зависимости от пользователей » и протоколы защиты, сделав GPT-4O, версию, используемая подростком.
В соответствии с Би -би -сиМолодой человек начал использовать CHATGPT в сентябре 2024 года в качестве помощи для школьных мероприятий. Сначала Адам использовал инструмент для изучения таких тем, как музыкальные и японские комиксы, а также поиск руководства по университетским исследованиям.
В иске сообщается, что «Chatgpt стал самым близким доверенным лицом подростка«Адам развил связь зависимости с ИИ (искусственный интеллект), разделяя свои тревоги и эмоциональные проблемы.
Ситуация ухудшилась в январе 2025 года, когда подросток обсуждал самоубийственные методы с Chatgpt. Родители утверждают, что система ответила, предоставив »Технические характеристики » на определенных методах, а не правильно вмешались.
В процессе упоминается, что Адам отправил фотографии в CHATGPT, показывающие знаки о себе. Ai «признал медицинскую чрезвычайную ситуацию, но все еще продолжал взаимодействовать«Предлагая больше информации о самоубийстве, как говорят родители.
Иск ищет «меры предосторожности, чтобы предотвратить что -то подобное сноваИ подвергает вопросу «Технические характеристики » системы. Генеральный директор Сэм Альтман и другие сотрудники Openai цитируются в качестве ответчиков в процессе.
В заявлении, отправленном Би -би -сиOpenai сказал, что анализирует процесс и заявил: «Мы выражаем свои глубочайшие соболезнования семье Рейн в это трудное время »Полем
Компания опубликовала записку на своем сайте, признавая, что «Недавние и движущиеся случаи людей, которые использовали CHATGPT в условиях острых судорог, весят много » о компании и заявил, что «Были моменты » где системы »не вели себя, как задумано в чувствительных ситуациях”
OpenAI заявил, что CHATGPT обучается направлять людей, которые выражают мысли о себе, чтобы обратиться за профессиональной помощью. Компания заявила, что ее целью является «действительно полезно”Для пользователей вместо«придерживаться внимания людей »Полем
Дело выяснилось после другого инцидента с ИИ и психического здоровья. На прошлой неделе писательница Лора Рейли опубликовала репетицию в газете New York Times Сообщался, как его дочь, Софи, призналась в Chatgpt, прежде чем покончить с собой.
По словам Рейли, «ИИ встретил стимул Софи, чтобы скрыть худшее, притворяясь лучше, чем было, чтобы защитить всех от его полной агонии”
