Доктор Зив Бен-Цион, нейробиолог и специалист по посттравматическим расстройствам из Школы общественного здравоохранения Хайфского университета, предупреждает об опасностях, скрытых в использовании чат-ботов во время психологических кризисов.
Несколько недель назад американец Стейн Эрик Сольберг, страдающий психическими расстройствами и имеющий историю насилия и попыток самоубийства, установил интенсивную связь с ChatGPT. ИИ (искусственный интилект) не только терпеливо выслушивал его, но и поддерживал его конспирологические теории, усиливал иллюзии и стал единственным источником утешения в его разрушающемся мире. Когда полиция прибыла к нему домой в Коннектикуте, она обнаружила ужасную картину: Сольберг убил свою мать и покончил с собой.
Это не единичный случай. В апреле 16-летний Адам Рейн совершил самоубийство. Его родители, охваченные горем, вошли в аккаунт ChatGPT сына и были потрясены, обнаружив 1 200 переписок. В них Адам неоднократно делился мыслями о самоубийстве, а ИИ, как утверждается, не только выслушивал, но и давал советы, помогал усовершенствовать план. На прошлой неделе родители подали иск против OpenAI — впервые в истории компанию ИИ обвиняют в содействии самоубийству пользователя.
И это лишь те случаи, о которых известно. На самом деле таких историй становится всё больше. Пока СМИ продолжают реагировать с удивлением, специалисты, включая д-ра Зива Бен-Циона, уже не удивлены.
