L’IA dans les systèmes de sécurité, on sentait bien que ce n’était pas l’idée du siècle. Dernière illustration en date, un adolescent américain a été braqué par la police puis menotté, parce qu’un système de sécurité à base d’intelligence artificielle a confondu le paquet de chips qu’il avait en main (des Doritos), avec une arme à feu. « La police est arrivée, environ huit voitures de flics, et ils sont tous sortis en pointant leurs armes sur moi en me disant de me mettre au sol », explique Taki Allen, qui venait de terminer un entraînement de football avant que l’incident ne se déroule sur le campus de son université.
IA aïe aïe aïe
Comment cette bourde a‑t‑elle pu avoir lieu ? Si le système d’alerte IA conçu par Omnilert s’est bien trompé sur l’identification de l’arme à feu, la vérification humaine après coup a bien écarté tout danger. Une information hélas loupée par le principal de l’université, qui a fait contacter les forces de l’ordre, entraînant cet absurde incident.
« Je pense qu’un paquet de chips ne devrait jamais être confondu avec une arme à feu », a déclaré le jeune Allen qui, désormais, préfère attendre à l’intérieur après l’entraînement, car il pense qu’il n’est plus sûr de sortir, en particulier avec quelque chose à boire ou à manger. Merci l’IA…
