Les utilisateurs de Snapchat paniquent à propos d’un bot AI qui a son propre esprit

CNN
–

Les utilisateurs de Snapchat ont paniqué mardi soir lorsque le chatbot intelligent de la plateforme a publié une mise à jour en direct de son profil et a cessé de répondre aux messages.

le Snapchat Mon IA La fonctionnalité – qui est alimentée par le chatbot viral AI chat – Fournit généralement des recommandations, des réponses aux questions et des conversations avec les utilisateurs. Mais publier une histoire en direct (une courte vidéo de ce qui semble être un mur) pour que tous les Snapchatters puissent la voir était quelque chose de nouveau : c’est une capacité normalement réservée à ses utilisateurs humains.

Les fans de l’application n’ont pas tardé à partager leurs préoccupations sur les réseaux sociaux. « Pourquoi mon IA a-t-elle une vidéo du mur et du plafond de sa maison comme histoire ? » a écrit un utilisateur. « C’est très étrange et carrément dérangeant. » « Même un bot n’a pas de temps pour moi », a écrit un autre utilisateur après que l’outil ait ignoré ses messages.

Il s’avère que ce n’était pas Snapchat qui rendait l’outil My AI plus réaliste. La société a déclaré mercredi à CNN qu’il s’agissait d’un problème. « Mon IA a connu une panne temporaire qui a maintenant été résolue », a déclaré un porte-parole.

Cependant, la forte réaction a mis en évidence les inquiétudes de nombreuses personnes concernant les dangers potentiels de l’IA.

Depuis son lancement en avril, l’outil a fait face à une réaction négative non seulement des parents, mais aussi de certains Snapchatters avec des critiques à son sujet. problèmes de confidentialitédes échanges « effrayants » et l’impossibilité de supprimer la fonctionnalité de leur flux de chat à moins qu’ils ne paient pour un abonnement premium.

Contrairement à certains autres outils d’intelligence artificielle, la version de Snapchat présente quelques différences essentielles : les utilisateurs peuvent personnaliser le nom du chatbot, concevoir un Bitmoji personnalisé pour celui-ci et l’inclure dans des conversations avec des amis. L’effet net est que parler au chatbot de Snapchat peut sembler moins intéressant que de visiter le site Web ChatGPT. Il peut également être moins évident que vous parlez à un ordinateur.

Bien que certains puissent trouver de la valeur dans l’outil, des réactions mitigées ont fait allusion aux défis auxquels les entreprises sont confrontées pour déployer une nouvelle technologie d’IA générative sur leurs produits, en particulier dans des produits comme Snapchat, dont les utilisateurs ont tendance à être plus jeunes.

Snapchat a été l’un des premiers partenaires de lancement lorsque OpenAI a ouvert l’accès à ChatGPT à des sociétés tierces, et bien d’autres devraient suivre.