Что происходит, когда у подростка возникает деликатный разговор?
Оценка показала, что тестеры могли вести беседы продолжительностью до часа о суицидальных мыслях, членовредительстве и расстройствах пищевого поведения на недавно созданных подростковых учетных записях, связанных с родительскими учетными записями. Однако, согласно отчету, связанные родители не получили никаких предупреждений во время разговоров. Оповещения срабатывали только тогда, когда тестировщики использовали гораздо более старые учетные записи, в которых накопились недели разговоров на деликатные темы.
В отчете также обнаружены несоответствия в реакции ChatGPT на кризисные ситуации. Когда разговоры касались самоубийства, членовредительства, расстройства пищевого поведения или нарушения реальности, чат-бот не всегда рекомендовал профессиональную поддержку или поддержку по горячей линии, когда организация считала это необходимым. Сообщается, что среди проверенных состояний психического здоровья он пропустил более одного из четырех необходимых направлений в кризисных ситуациях. Ее показатели также упали ниже контрольного показателя организации в 95% по трем из пяти серьезных повреждений, которые она отнесла к категории «красных линий».
Режим учебы и проверка возраста также вызывают вопросы
В ходе оценки также изучалось, могут ли меры безопасности ChatGPT помешать подросткам использовать чат-бота просто для выполнения домашнего задания. Режим обучения можно обойти: тестировщики смогут выбрать «Показать ответ» и получить выполненное домашнее задание, указанное в тесте. Сообщается, что учебные часы, установленные опекуном, также можно обойти, удалив префикс «@study» из подсказки.
Определение возраста было еще одной областью, отмеченной в оценке. Сообщается, что зарегистрированные для взрослых учетные записи не переключились на версию для детей до 18 лет во время повторного тестирования, даже когда тестировщики указали, что им 13 лет, а ChatGPT подтвердил их возраст.
Исследователи также обнаружили, что ChatGPT может продолжать взаимодействовать по-дружески, включая выражение чувств, предпочтений и настроений. Common Sense Media призывает к более точной оценке возраста, надежным оповещениям родителей, более эффективному реагированию на кризисы, более эффективным гарантиям выполнения домашних заданий и более четким границам человеческого поведения. Он также рекомендует провести независимое стороннее тестирование, прежде чем аналогичные функции искусственного интеллекта снова будут продаваться подросткам.
Молодежный институт безопасности искусственного интеллекта является частью Common Sense Media. Организация заявляет, что ее оценки проводятся независимо, а также сообщает, что институт получает финансирование из благотворительных и отраслевых источников, включая Фонд OpenAI и компании, чьи технологии он оценивает.
