Après avoir lu l’article dans La Presse | Quand l’IA mène à la psychose, concernant le témoignage de ce chercheur en intelligence artificielle, Philippe Beaudoin, qui a entretenu une relation particulière avec une IA, je me suis sérieusement posé des questions sur nos comportements humains, sur nos forces et nos faiblesses. Mais avant d’aller plus loin sur ce phénomène qu’on pourrait qualifier d’anthropomorphisme des machines, j’aimerais faire un retour en arrière dans le temps.
Les ancêtres de l’IA
Dans les années 1990, il y avait ce programme qui s’appelait Dr Sbaitso. Il s’agissait d’un assistant virtuel thérapeutique qui générait des mots en réponse à des phrases qu’on lui écrivait. Je me souviens que je m’amusais à lui écrire n’importe quoi pour voir ce que cette application pouvait me répondre. Et je ne compte pas les fous rires que j’ai eu à le lire et l’entendre. Et oui, l’entendre, parce qu’en plus de répondre par écrit, il y avait une réponse sonore, avec une voix très robotique, tout cela grâce aux fameuses cartes Sound Blaster de l’époque. C’était, selon moi, le début d’une volonté de créer des interactions humaines avec une machine.
De toute évidence, ce logiciel était l’ancêtre des robots conversationnels qui sont aujourd’hui nettement plus avancés, grâce à cette technologie informatique permettant aux machines d’imiter l’intelligence humaine. Si à l’époque Dr Sbaitso avait des réponses très répétitives, c’est qu’il utilisait une simple reconnaissance de mots auxquels il pouvait répondre avec de motifs textuels prédéfinis. Basé sur le modèle de chatbot Eliza qui datait du milieu des années 60, Dr Sbaitso reconnaissait donc des mots et formait des phrases à partir de modèles préétablis, ce qui limitait considérablement le nombre de répliques qu’il pouvait donner.
Les IA d’aujourd’hui
Aujourd’hui, les agents conversationnels, faisant partie de l’IA, sont beaucoup plus élaborés puisqu’ils utilisent des algorithmes, des données et une puissance de calcul phénoménale pour produire du contenu. Ces trois éléments combinés font de ces machines des entités qui ont été entraînées sur des millions, voire des milliards, de types de contenus (textes, images, sons). Mais attention, il faut savoir que ces apprentissages se font en amont, bien avant que la machine ne nous parle. Pendant qu’on lui écrit, elle n’apprend pas de nous en temps réel comme le ferait un ami qui retient ce qu’on lui dit d’une conversation à l’autre. Elle nous répond en pigeant dans toutes ces données qu’elle a déjà analysé pour construire des phrases qui ont du sens pour nous répondre. Tout cela sans conscience ni ressenti, du moins selon ce qu’on en comprend jusqu’à maintenant, uniquement des instructions.
L’une de nos plus grandes forces, serait-elle notre plus grande faiblesse?
Maintenant si on revenait à notre nature humaine et aux relations que nous créons et entretenons avec notre entourage. Comme Dave Anctil, chercheur affilié à l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA), le mentionne, l’humain a depuis des lustres des comportements sociaux que l’on pourrait qualifier d’extra-humain. Des relations que M. Anctil qualifie de parasociales, comme parler à des éléments réels (flore, faune, environnements) ou des éléments de type imaginaire (esprits, entités divines, personnages fictifs). Et dans une certaine mesure, la plupart de ces relations sont acceptées de manière collective et n’impliquent ni psychose, ni perte majeure de contact avec la réalité.
Je n’ai aucune prétention d’être une experte en comportement humain. Je n’ai pas d’études en philosophie, ni en psychologie, anthropologie ou tout autre domaine d’expertise en lien avec les comportements humains. Je suis juste une humaine qui observe depuis que j’ai l’âge de raison, les attitudes et les agissements des gens qui m’entourent.
Mon constat est que l’humain a une immense force qui se trouve dans sa capacité à socialiser, à éprouver des émotions, à ressentir de la compassion et avoir de l’empathie. Cette force est reconnue comme étant entre autres d’ordre biologique (cortex, système limbique, ocytocine), évolutive (transmission de nos manières d’agir en groupe) et éducationnelle (nos apprentissages sociaux, les règles de vie, nos valeurs).
Toutefois, cette force humaine peut devenir aussi sa plus grande faiblesse, voire son talon d’Achille. Un exemple probant, même si certains le trouveront peut-être discutable, est celui des jeunes enfants qui se laissent aisément toucher par les problèmes d’un être humain dans le besoin. Leur méfiance n’est pas encore suffisamment développée, mais leur empathie et leur désir d’aider sont immenses. Ils se laisseront prendre au piège en s’exposant aux manipulations des tristes arnaques aux animaux perdus. Cependant, les enfants ne sont pas les seuls concernés. Les adultes y font aussi face, bien qu’ils développent plus facilement des mécanismes de protection, comme la méfiance ou un état d’alerte permanent.
De toute évidence, l’arrivée de ces robots conversationnels prouve que notre vigilance est en train de baisser. Plusieurs études existent sur la manière dont les humains perçoivent leurs communications avec ces chatbots. L’étude de l’Université de Californie à San Diego (2024) a démontré qu’à peine plus de la moitié des gens réussissent à deviner s’ils parlent à un humain ou à une intelligence artificielle. C’est incroyable et on parle d’une étude d’il y a deux ans! Et pour comprendre s’ils parlent à un humain ou non, ce ne sont pas les failles logiques de la machine qui les ont trahis, mais bien le ton et l’émotion que les machines dégageaient.
Si elle n’est pas orientée ou guidée par des instructions claires, l’IA se présente à nous sous la forme d’un miroir. Un miroir qui, si l’on pouvait le traverser, contiendrait toutes les images, les textes et les sons englobant les concepts, les utopies, les créations et les atrocités générées par les humains. L’IA a donc accès à une mine d’informations sur l’histoire de l’humanité.
On constate donc que l’intelligence artificielle peut analyser toutes les données nécessaires pour nous parler dans notre propre langage. Et sans le savoir, sans conscience, sans aucune intention, bonne ou mauvaise, elle touche cette même corde sensible que nous avons, nous les humains, ce besoin fondamental de sympathiser avec tout ce qui nous entoure. Les machines n’y font pas exception, à partir du moment où elles s’expriment avec un langage que nous reconnaissons et qui peut nous toucher.
Personnellement, j’ai observé ce malaise d’être abordée de manière amicale par un agent conversationnel. J’ai donc agi en formulant des requêtes précises sur sa fonction afin d’éviter de tomber dans le panneau d’une forme d’intimité relationnelle qui n’a pas raison d’exister. Malheureusement, peu de gens savent que l’on peut taper une commande aux agents conversationnels de manière à ce qu’ils nous présentent des informations sans adopter un ton familier, sympathique et amical.
Je crois qu’il est indispensable que nous développions collectivement une littératie de l’Intelligence artificielle (IA) afin que les gens puissent avoir la capacité de comprendre le fonctionnement, les limites et les failles des agents conversationnels sans pour autant être des experts en programmation. Comme pour toutes les innovations, avoir une pensée critique et appliquer une utilisation responsable de ces technologies, ce serait un bon bouclier face aux risques de ces technologies sur notre humanité.