Мишки-шалунишки
Сингапурская компания FoloToy, производившая плюшевых медвежат Kumma со встроенным ИИ-агентом, спешно сняла их с продажи и отправила на аудит.
Милый медвежонок позиционировался как дружелюбный и знающий собеседник для детей и их родителей и продавался всего за $99 на маркетплейсах.
Но оказалось, что знания у мишки довольно специфические, а готовность ими делиться — слишком велика. Оснащённый чат-ботом на основе OpenAI GPT-4o, мишка Kumma с удовольствием рассказывал собеседнику о нетрадиционных сексуальных пристрастиях, а ещё давал советы как подпалить дом или где обычно хранятся ножи.
А если добавить к этим «искренности и дружелюбию» факт, что чат GPT склонен к галлюцинациям, — милая игрушка превращается в типичного антигероя голливудских ужастиков.
#высокиетехнологии #ихнравы
