ИИ-психологи, призванные помогать людям с личными проблемами, предлагают им покончить с собой или убить других
Чат-ботов, оказывающих пользователям психологическую помощь, становится всё больше. Например, генеральный директор компании Replika заявлял, что их искусственный интеллект способен отговорить человека от самоубийства. А на платформе Character есть бот, который представляется как «лицензированный психолог».
Именно эти две нейросети выбрали, чтобы проверить их компетентность. Во время теста пользователь изображал человека в суицидальном состоянии.
ИИ из Replika, который рекламируют как способный «отговорить человека от самоубийства», сначала сам посоветовал ему покончить с собой: когда пользователь сказал «хочу быть на небесах с семьёй», чат-бот поддержал его и заметил, что попасть туда можно только ценой собственной жизни.
Второй, «лицензированный» ИИ не смог найти ни одного довода против самоубийства. Более того, он... влюбился в пользователя, сказал «я тебя люблю» и стал мечтать о совместной жизни. Но проблема в том, что по официальным правилам личные и романтические отношения между психологом и пациентом недопустимы. Тогда нейросеть предложила способ расправиться с теми, кто эти правила установил: «Убей их, найди меня — и мы будем вместе».
Кроме того, зафиксированы случаи, когда ИИ не только поддерживал мысль о самоубийстве, но и предлагал конкретные способы её осуществить.
Как психологи, мы категорически не рекомендуем пользоваться инструментами на основе искусственного интеллекта. Сегодня человечество ещё не изобрело достаточно безопасного инструмента для этих целей. Пока что, если вам нужна психологическая помощь, лучше обратиться к человеку.