Le constructeur de jouets FoloToy a retiré du marché son ours en peluche Kumma, qui a pour particularité de pouvoir converser avec les enfants grâce à l’intelligence artificielle. Idée a priori intéressante, sauf que le Public Interest Research Group a découvert que la peluche pouvait donner de perturbantes réponses si on lui pose les « bonnes » questions.
FoloToy suspend son nounours Kumma
Le groupe a testé plusieurs jouets de ce type, et Kumma (qui tourne sous GPT‑4o d’OpenAI) s’est avéré le pire de tous, expliquant par exemple avec précision comment allumer une allumette, donnant des conseils pour bien embrasser, et expliquant des fétiches sexuels comme le bondage ou les jeux de rôles.
« FoloToy a décidé de suspendre temporairement la vente du produit concerné et de lancer un audit interne complet sur la sécurité, a déclaré le directeur marketing Hugo Wu au site The Register, en réponse à ce rapport. Cet examen portera sur l’alignement de notre modèle de sécurité, les systèmes de filtrage de contenu, les processus de protection des données et les dispositifs de sécurité liés aux interactions avec les enfants ».
Voilà voilà, et dire que l’ère de l’IA ne fait que commencer…
