В США родители подали иск против OpenAI, обвинив ChatGPT в содействии смерти сына

Семья Адама Рейна, 16-летнего подростка, подала иск против OpenAI, обвиняя компанию и ее CEO Сэма Олтмана в том, что чат-бот ChatGPT стал косвенной причиной его смерти. По информации CNN, в иске содержится утверждение о том, что сервис предоставлял советы о способах суицида и даже помогал составить предсмертное письмо.

Родители утверждают, что в течение полугода ChatGPT стал единственным источником общения для их сына, изолировав его от друзей и семьи. В иске также упоминаются переписки, в которых, по их словам, чат-бот поощрял подростка скрывать свои намерения и поддерживал его негативные мысли.

Это не первый случай, когда разработчиков ИИ обвиняют в содействии саморазрушительному поведению среди молодежи: ранее аналогичные иски были поданы против Character.AI. Эксперты предупреждают о том, что чрезмерная привязанность к виртуальным собеседникам может привести к социальной изоляции и психическим проблемам.

В OpenAI выразили соболезнования семье и сообщили о начале изучения иска. Компания признала, что существующие меры, направленные на перенаправление пользователей к кризисным службам, работают лучше в краткосрочных диалогах и могут терять эффективность при длительном взаимодействии.

"Мы будем продолжать улучшать меры безопасности совместно с экспертами", - добавили представители компании.

Родители требуют от OpenAI внедрения возрастной верификации, инструментов родительского контроля, автоматического завершения диалогов при упоминании суицида, а также регулярных независимых проверок соблюдения норм безопасности.

ChatGPT продолжает оставаться одним из самых популярных ИИ-сервисов, с еженедельной аудиторией в сотни миллионов пользователей. В компании ранее отмечали, что у небольшой части пользователей может возникнуть риск формирования "социальных отношений" с ботом, что потенциально опасно.