Votre nouvel ami, imposé par SnapChat, nommé My AI vient de débarquer. Basé sur ChatGPT, le robot conversationnel peut vous rendre service en lui posant différentes questions (à l’image de l’IA de chez OpenAI) mais là où le problème se pose, c’est que beaucoup se sont rendu compte que l’intelligence artificielle pose beaucoup de questions intrusives, sur une application s’adressant principalement aux jeunes.
Un robot trop intrusif
Le robot My AI est annoncé par SnapChat comme un chatbot « convivial » voulant sympathiser et devenir ami avec son interlocuteur. Plus l’on discute avec My AI, plus il en apprend sur nous, notre entourage, notre manière de penser et plus ses réponses sont pertinentes.
Un enseignant en informatique du nom de Simon Duguay a voulu en savoir plus à propos de cette nouvelle IA, a fait ses propres tests et en a fait un très bon compte rendu, résumant bien les craintes de beaucoup d’adultes sur le nouvel ami de leur enfant dans une publication Facebook :
« Avez-vous vu la nouvelle fonction MyAi de Snapchat ?
C’est une intelligence artificielle, qui fonctionne grâce à ChatGPT, qui t’écrit comme si tu étais son ami. Ce nouveau « contact » Snapchat est apparu la semaine dernière pour tous les utilisateurs et ne peut être bloqué que si vous avez la version payante. Il peut être utilisé, par exemple, pour demander des conseils, pour répondre à des questions d’un devoir ou pour discuter de ta journée. Il peut même te suggérer un restaurant proche de chez toi puisqu’il a accès à ta localisation. Le problème? Ce n’est ni un humain ni un ami, mais il agit tout comme si c’était le cas.
Pour avoir essayé la fonction moi-même, j’ai remarqué qu’il me pose beaucoup de questions sur ma vie privée. Par exemple, que fais-tu aujourd’hui? Peux-tu m’envoyer des photos lorsque tu seras au parc? Quel est le nom de ton animal de compagnie ? Quels sont tes passetemps?
Pourquoi ces questions ? Snapchat ne s’en cache pas, les données sont enregistrées et peuvent servir à des fins publicitaires. Le robot va même jusqu’à demander des photos de ces activités, que son IA peut analyser, pour recueillir, encore une fois, des informations sur l’utilisateur.
Contrairement au ChatGPT original, l’IA de Snapchat est paramétrée pour être particulièrement amicale, question de pouvoir entretenir la conversation longtemps. Par exemple, si on lui indique qu’on est triste, l’IA va nous questionner sur le sujet et va même nous proposer des conseils pour aller mieux. Considérant que ce n’est pas un thérapeute (ni même un humain), que l’IA a tendance à inventer des faits et à être biaisée, je vois facilement arriver des situations dans lesquelles une personne pourrait recevoir et mettre en application des conseils peu recommandables concernant sa vie émotive, sa santé ou ses finances. Oui, certains mécanismes dans l’application existent pour contrer cela, mais ils sont facilement contournables. Et que dire de ceux qui pourraient se « lier » d’amitié à cette IA? Un beau scénario de science-fiction devenu réalité, à mon avis.
Comme cette fonctionnalité est maintenant disponible pour tout le monde qui a Snapchat, beaucoup d’adolescents l’ont maintenant sur leur téléphone, sans qu’ils ne l’aient forcément demandé. Vous êtes un parent ou un enseignant et cela vous inquiète? Je pense que la première chose à faire serait d’avoir une discussion à ce sujet. Snapchat ne sera pas la dernière application à intégrer l’IA dans ses fonctions. C’est donc un excellent moment, à mon avis, pour aborder le fait que l’IA n’est pas un humain (ni un ami), qu’il peut inventer des informations fausses, qu’il peut dire des choses inappropriées et surtout qu’il faut faire très attention aux données qu’on lui fournit. Chaque information qu’il apprend et chaque photo qu’on lui envoie sont analysées dans le but de créer un dossier publicitaire et pourraient éventuellement se retrouver en ligne, sur d’autres sites internet (tout ce qui se trouve en ligne est permanent). Comme une de mes collègues a déjà si bien dit: « tout ce que tu lui dis, serais-tu à l’aise de le dire à la télévision? ».
H3 : My AI obligatoire pour tous !
Là où beaucoup de personnes s’indignent, c’est que cette intelligence artificielle est impossible à supprimer ! Sauf si l’on paye 3,99 € par mois pour accéder à SnapChat+, la formule payante de l’application promettant de nombreuses fonctionnalités exclusives.
Beaucoup s’offusquent de devoir payer ce prix pour retirer le robot My AI, mais dans les semaines à venir, sa suppression devra être accessible à tous !
L’intégralité des conversations entretenues avec My AI est stockée sur votre smartphone, et si vous souhaitez les supprimer, il vous suffit d’aller dans les réglages de l’application, puis d’aller dans « Contrôles de confidentialités » puis « Effacer les données » et vous pourrez enfin cliquer sur « Effacer les données de My AI ».
