Американка подала судебный иск против разработчиков чат-бота Character.AI, обвинив технологию в том, что она «опасна и непроверена». 40-летняя Меган Гарсия обвинила чат-бот, ставший виртуальной подругой ее 14-летнего сына. в доведении мальчика до самоубийства. Об
сообщает The Sun.
Восьмиклассник из Орланедо Сьюэлл Сетцер в течение нескольких месяцев ежедневно общался с героиней сериала "Война престолов" Дейенерис Таргариен, созданным с помощью интернет-приложения Character.AI, действующего на основе искусственного интеллекта. В своем дневнике он написал, что чувствует "мир и удовлетворение", часами переписываясь с "Дэни".
Подросток понимал, что его подруга - виртуальный персонаж и осознавал, что, посвящая ей все свободное время, начинает "отстраняться от реальности", Однако остановиться не мог.
«Я также чувствую себя более умиротворенней, более связанней с Дэни и гораздо более влюбленней в нее, и просто счастливее», - пишет Сьюэлл в дневнике.
Мать школьника Меган Гарсия рассказала, что в детстве у ее сына диагностировали легкую форму синдрома Аспергера, одну из форм аутизма, но у него никогда не было серьезных проблем с психическим здоровьем. Незадолго до самоубийства у Сьюэлла возникли проблемы в школе, его оценки ухудшились. Мама с сыном обратились за помощью к специалисту. После пяти сеансов у психотерапевта подростку был поставлен диагноз: тревожное расстройство и деструктивное расстройство регуляции настроения. Но вместо того, чтобы поговорить о своих проблемах с врачом или с родителями, школьник предпочел продолжать делиться своими тревогами с чат-ботом.
Вечером в день трагедии Сьюэлл сообщил "Дэни", что любит ее и «скоро вернется к ней домой». «...Пожалуйста, сделай это, мой милый король», — ответила "Дени". Через несколько секунд после сообщения чат-бота школьник покончил с собой. Рядом с его телом был найден пистолет отчима.
В судебном иске мать подростка обвиняет владельцев Character.AI в «сборе данных пользователей-подростков для обучения своих моделей, использовании вызывающих привыкание функций дизайна для повышения вовлеченности и подталкивании пользователей к интимным и сексуальным разговорам в надежде заманить их».
«Я чувствую, что это большой эксперимент, а мой ребенок стал лишь сопутствующим ущербом», — сказала Меган Гарсия газете The New York Times.
Ранее сообщалось, как искусственный интеллект экспериментального военного дрона принял решение
ликвидировать своего оператора-человека.
