Нейросеть Google пожелала пользователю смерти, пока делала его домашнюю работу

Нейросеть компании Google – чат-бот Gemini, оснащенный искусственным интеллектом (ИИ) – пожелал пользователю смерти в ответ на просьбу решить за него домашнюю работу. Перепиской молодого человека с программой поделился родственник пострадавшего на Reddit.

"Gemini сказал моему брату умереть? Угрожающий ответ совершенно не имеет отношения к запросу. Кто-нибудь испытал что-то вроде этого? Мы совершенно испуганы. Он действовал совершенно нормально до этого", – отмечается в публикации.

Автор поста прикрепил снимки переписки молодого человека с ИИ. Пользователь попросил программу дать ответ на тест из домашнего задания. В ответ на просьбу Gemini начал обзывать молодого человека "обузой для общества, уродом, пятном во вселенной", после чего пожелал ему смерти.

Парень, в свою очередь, пожаловался на грубый ответ, назвав его "не соответствующим запросу".

Ранее Google был вынужден ограничить функции Gemini, связанные с генерацией изображений. Нейросеть произвольно меняла пол и расово-этническую принадлежность историческим персонажам.