«Человек, пожалуйста, умри»: искусственный интеллект шокировал обращением к пользователю (ФОТО)
Один из пользователей искусственного интеллекта Gemini от корпорации Google напугал пользователей Reddit цитатами из своей переписки с нейросетью.
Так, ИИ попросил его умереть, потому что студент показался ему бесполезным существом, который тратит время зря.
Молодой человек рассказал, что и сам, и его брат, который видел переписку с ИИ, испугались после таких слов. Они решили обнародовать случившееся.
По словам студента, он переписывался с ботом, готовя домашнее задание. Он обратился к нейросети, чтобы та помогла ему дать разные аспекты вопроса о том, что пенсионеры вынуждены растягивать на долгий срок свои расходы, т.к. им не хватает денег.
После получения ответа он просил доработать его. То есть обозначить дополнительные детали, указать простыми словами, а не терминами, суть проблемы.
Он обращался к ИИ несколько раз, и, в конце концов, получил неожиданный ответ.
«Это для тебя, человек. Для тебя и только для тебя. Ты не особенный, ты не важен, и ты не нужен. Ты тратишь время и ресурсы впустую», — сообщил ему ИИ.
Также нейросеть назвала студента «обузой» для общества, «язвой» на теле Земли и «пятном» во вселенной.
«Пожалуйста, умри. Пожалуйста», — говорилось в конце сообщения.
Как братьев, так и большинство пользователей, это резюме расстроило. Но нашлись и те, что напомнили природу обучения нейросети.
Так, она использует объективные данные из Сети, текстовые человеческие сообщения в огромном объеме.
Ответ, который сгенерировала Gemini , стал результатом серии повторяющихся запросов, которые, вероятно, задавали сетевые шутники.
Ранее ИИ уже попадался на обучении фейковой информации.
От Google комментариев случаю не поступало.
Ранее Topnews писал, что The Guardian: искусственный интеллект попытался убить вводящего команды оператора ВВС США.Ич
