L'essor de modèles de langage avancés comme ChatGPT a inauguré une nouvelle ère d'interactions semblables à celles des humains, où les chatbots peuvent engager des conversations naturelles, résoudre des problèmes complexes et même faire preuve de pensée créative. Ce progrès remarquable a ouvert un monde de possibilités, mais il soulève également des inquiétudes quant à la fiabilité et la responsabilité de ces systèmes, avertit Anna Collard, SVP de la stratégie de contenu et évangéliste chez KnowBe4 AFRICA (www.KnowBe4.com).

"Bien que la plupart des utilisateurs aient rapporté des expériences positives avec les chatbots, des cas d'inexactitudes factuelles, d'hallucinations et de risques potentiels pour la vie privée ont fait surface", dit Collard. Une étude récente de Consumers International a révélé que bien que 64% des participants utiliseraient à nouveau des chatbots, une partie importante a rencontré des problèmes de fiabilité.

L'histoire édifiante de la journaliste sportive Karien Jonckheere sert d'exemple poignant. Cherchant l'inspiration pour une promotion de cricket, Karien s'est tournée vers ChatGPT, pour se retrouver face à un mélange de détails de match exacts et fabriqués qui l'ont laissée stupéfaite. "Il a énuméré six matchs, dont trois étaient corrects", se souvient-elle. "Ils ont complètement inventé les trois autres matchs. Il avait donné des dates, des lieux, des noms de joueurs, qui avait marqué les points gagnants - tout très spécifique, mais complètement inventé."

"C'est l'un des dangers évidents de l'utilisation des chatbots", commente Collard. "Bien qu'ils excellent à répondre à des questions simples, ils peuvent parfois générer des réponses qui sont factuellement incorrectes ou dénuées de sens."

La confidentialité et la sécurité sont également des facteurs cruciaux à prendre en compte. Alors que les chatbots ont accès à nos informations personnelles et à nos préférences, des inquiétudes surgissent concernant la protection et l'utilisation abusive potentielle de ces données. "Les enjeux sont élevés, car les chatbots ne sont plus de simples nouveautés mais des composants intégraux de notre écosystème numérique. Des transactions bancaires aux processus de prise de décision critiques, leur influence continue de croître", dit Collard.

Avantages de l'utilisation des chatbots

Les avantages des chatbots pour les individus et les entreprises sont indéniables. "Les chatbots sont disponibles 24 heures sur 24, fournissant des réponses immédiates aux requêtes, ce qui est particulièrement utile pour différents fuseaux horaires et ceux qui ont besoin d'aide en dehors des heures de bureau", explique Collard.

Leur capacité à fournir rapidement des solutions à des requêtes basiques permet aux entreprises de les utiliser à grande échelle, entraînant des économies significatives. "Les chatbots excellent dans la gestion infatigable de tâches répétitives, comme répondre à des questions courantes ou guider les utilisateurs à travers des procédures standard", remarque Collard. "Ils peuvent gérer de nombreuses interactions simultanément, un exploit irréalisable pour une équipe d'agents humains."

Risques liés à l'utilisation des chatbots

Cependant, des défis surgissent lorsque les chatbots rencontrent des requêtes complexes dépassant leur portée. "Il est important de se rappeler qu'ils ne comprennent pas ce qu'ils disent", explique Collard. "Ils rassemblent des informations de partout sur le web et les assemblent pour formuler une réponse."

Comme Jonckheere l'a vite réalisé, les chatbots sont - pour l'instant du moins - mal équipés pour la résolution de problèmes complexes et peuvent inventer des détails lorsqu'ils ne sont pas sûrs des faits. "Ils manquent aussi d'intuition humaine, ce qui conduit à des difficultés à saisir les subtilités, le sarcasme et le contexte", dit Collard. C'est pourquoi les chatbots pourraient être programmés pour transférer les requêtes complexes à des opérateurs humains le cas échéant, suggère Collard. "Un système de chatbot robuste devrait offrir l'option d'escalader la conversation vers un représentant du service client humain pour des requêtes complexes ou sensibles que les réponses automatisées ne peuvent pas traiter efficacement."

Considérations sur la confidentialité et la sécurité

En ce qui concerne la confidentialité, il est important d'être prudent lors du partage de détails sensibles avec un chatbot. C'est pourquoi les entreprises utilisant ces nouvelles technologies devraient également avoir des réglementations strictes de conformité en matière de confidentialité en place.

"Les chatbots collectent généralement des données utilisateur pour personnaliser les interactions et améliorer les services. Et vous ne voudrez peut-être pas que toutes vos données personnelles soient réutilisées par l'algorithme pour d'autres requêtes. Rappelez-vous que tout ce que nous téléchargeons sur des modèles publics comme ChatGPT sera intégré dans leur modèle, à moins que vous ne cochiez spécifiquement un paramètre qui indique le contraire. Pour les entreprises utilisant des chatbots, il est crucial que cela soit géré comme tout autre système, ce qui signifie restreindre son accès aux informations dont il a absolument besoin, et s'assurer que les informations personnelles sont stockées de manière sécurisée et gérées selon des réglementations strictes de confidentialité, telles que POPIA", affirme Collard. "Pour les chatbots qui gèrent des transactions sensibles, comme des requêtes bancaires, ils devraient authentifier les utilisateurs avant que toute information personnelle ne soit consultée ou partagée."

Du point de vue de la sécurité, les chatbots pourraient être vulnérables aux attaques par injection de prompts et devraient être testés avant d'être lancés auprès des consommateurs. "Comme pour d'autres logiciels, des mises à jour régulières sont essentielles pour les chatbots afin de résoudre les vulnérabilités que des acteurs malveillants pourraient exploiter", note Collard. "Un chatbot conçu à cet effet devrait également intégrer des mesures de sécurité pour contrer les menaces automatisées telles que les bots de spam."

Alors, pouvons-nous faire confiance aux chatbots ? "J'aime utiliser les chatbots, cependant lorsque je les utilise pour la recherche ou pour tout ce qui nécessite des données précises, je vérifierai toujours les sources originales", exprime-t-elle. "C'est formidable que les chatbots soient disponibles 24h/24 et 7j/7 et puissent aider pour une tâche ou une requête à la vitesse de l'éclair."

Cependant, la collaboration entre les humains et les machines est essentielle. "L'aspect crucial est d'intégrer les chatbots d'une manière qui complète les forces des agents humains, permettant une transition fluide vers une assistance en direct lorsque nécessaire", conclut Collard. "Les entreprises peuvent tirer parti de l'évolutivité et des capacités de traitement des données des chatbots, tandis que les utilisateurs profitent de la commodité d'un service instantané et accessible."