L'IA pense-t-elle sous la douche ?

Ce matin, la radio avait manifestement décidé de me parler d'intelligence artificielle.

Trois sujets d'affilée, trois thématiques différentes. Et forcément, quelques minutes plus tard, sous la douche, mon cerveau avait décidé de continuer tout seul.

Pourquoi tant de gens se méfient-ils de l'IA ? Est-ce que j'en fais moi-même un usage raisonné ? Est-ce réellement une machine qui « pense » ? Va-t-elle nous remplacer ? Nous rendre idiots ? Tous nous tuer dans cinq ans ?

Bref, une douche parfaitement reposante.

Une machine qui pense ?

Je pense qu'une partie de notre rapport étrange à l'intelligence artificielle vient déjà de son nom et de la manière dont nous interagissons aujourd'hui avec elle.

Je pose une question, elle me répond. Je lui présente un raisonnement, elle le critique. Je fais une plaisanterie, elle la comprend --- ou donne suffisamment bien l'impression de la comprendre.

Et le langage est justement l'un des principaux moyens par lesquels nous reconnaissons l'intelligence chez les autres êtres humains. Il devient alors terriblement facile de franchir mentalement une étape supplémentaire : elle me parle comme quelqu'un, donc quelque chose pense derrière l'écran.

Ce réflexe n'a d'ailleurs rien de nouveau. Il porte même un nom depuis 1966 : l'« effet ELIZA », du nom d'un des tout premiers chatbots, qui se contentait de reformuler les phrases de l'utilisateur en questions à la manière d'un psychothérapeute. Malgré la simplicité radicale du programme, une partie de ses utilisateurs s'étaient mis à lui confier des détails intimes, convaincus qu'il les comprenait vraiment. Nous n'avons peut-être pas tant changé depuis.

La réalité est évidemment beaucoup plus compliquée. Et paradoxalement, comprendre quelques principes très simples sur le fonctionnement d'une IA permet déjà de la regarder assez différemment.

Les réseaux neuronaux ne sont d'ailleurs absolument pas apparus avec ChatGPT. Leurs origines remontent à plusieurs décennies et ils étaient déjà utilisés dans énormément d'applications avant que le grand public ne commence à discuter quotidiennement avec eux : reconnaissance vocale, analyse d'images, traduction, détection de fraude, filtrage de spam, systèmes de recommandation.

Nous utilisions déjà de « l'IA » sans nécessairement l'appeler ainsi. La différence, c'est qu'un filtre antispam qui classe silencieusement un message dans un dossier ne donne à personne l'impression d'avoir une personnalité. Un système qui nous répond dans notre langue, beaucoup plus.

« L'IA » n'existe d'ailleurs pas vraiment

Ou plutôt, ce que nous appelons aujourd'hui l'IA recouvre énormément de technologies différentes.

C'est devenu particulièrement invisible avec des outils comme ChatGPT. Je peux lui demander une explication, puis de regarder une image, puis de générer une illustration. De mon point de vue d'utilisateur, je suis resté dans la même conversation avec « la même IA ».

Sous le capot, les choses sont beaucoup moins simples. Un modèle destiné au langage et un modèle destiné à générer des images ne sont pas nécessairement entraînés de la même manière, avec les mêmes données, ni même pour résoudre le même type de problème. D'autres outils spécialisés peuvent encore intervenir. L'interface rend tout cela transparent --- c'est extrêmement pratique, mais cela renforce probablement encore cette impression d'avoir devant nous une intelligence unique sachant tout faire.

Or, l'une des choses que mon utilisation de ces outils m'a rapidement apprises, c'est justement que leurs capacités peuvent être extraordinairement... étranges. Une IA peut accomplir en quelques secondes quelque chose dont je serais parfaitement incapable, et se casser lamentablement les dents sur une tâche qui me prendrait trente secondes.

J'en ai fait régulièrement l'expérience avec les schémas électriques. Expliquez un circuit à une IA et elle pourra parfaitement discuter de son fonctionnement, proposer des composants ou attirer l'attention sur certains problèmes. Demandez à un générateur d'images de produire le schéma correspondant, et l'expérience peut devenir beaucoup plus amusante : un fil qui arrive au mauvais endroit, une borne supplémentaire apparue par magie, deux conducteurs qui se croisent alors qu'ils ne devraient pas. Visuellement, cela ressemble parfois merveilleusement à un schéma électrique. Électriquement, beaucoup moins.

Pour un humain connaissant le domaine, l'erreur peut sembler grotesque. Pour le modèle, produire quelque chose qui ressemble à un schéma cohérent et garantir la topologie exacte d'un circuit sont deux problèmes très différents. C'est une leçon assez importante : ce qui nous paraît simple ne l'est pas nécessairement pour une IA, et inversement.

Et je ne raconte pas cela uniquement parce que j'ai observé l'IA se tromper. Je me suis moi-même déjà laissé avoir.

Mes histoires de câblage électrique en sont justement un bon exemple. Face à une réponse plausible, bien expliquée et correspondant à peu près à ce que j'attendais, il m'est arrivé d'aller trop vite et de ne pas immédiatement voir l'erreur.

C'est d'ailleurs probablement ce qui m'a rendu plus attentif avec le temps.

Je me ferai encore avoir. Le but n'est pas de devenir infaillible, mais d'apprendre à reconnaître les situations où une erreur est possible --- et surtout à faire en sorte que cette erreur ait le moins de conséquences possible.

Une mauvaise suggestion pour reformuler un paragraphe n'aura probablement aucune conséquence. Une mauvaise commande exécutée en root ou une erreur dans un câblage électrique, beaucoup plus.

Plus les conséquences potentielles sont importantes, plus mon niveau de vérification doit augmenter.

Un assistant plutôt qu'un remplaçant

J'ai moi-même longtemps été assez frileux à l'idée d'utiliser réellement l'IA --- sans doute cette impression qu'en commençant à lui confier certaines choses, j'allais progressivement en perdre le contrôle. Curieusement, c'est plutôt l'inverse qui s'est produit.

Je considère aujourd'hui l'IA comme un assistant assez incroyable, une sorte de catalyseur. Elle m'aide à structurer une pensée, confronter une idée, explorer plusieurs pistes, rechercher quelque chose, analyser un problème ou simplement démarrer un projet que j'aurais probablement continué à remettre à plus tard.

Ce site en est un excellent exemple. J'ai longtemps eu envie de partager certaines de mes expériences, et pendant longtemps je ne l'ai pas fait, entre autres parce que je ne m'estimais pas particulièrement bon pour écrire des articles --- j'avais pourtant, peut-être à tort, l'impression d'avoir quelque chose d'intéressant à raconter. L'IA m'a aidé à franchir cette barrière.

Elle n'a pas vécu mes expériences à ma place. Elle n'a pas construit mes projets. Elle n'a pas décidé de ce que j'avais envie de raconter. Mais elle m'aide à organiser tout cela et m'offre une sorte de regard extérieur permanent. Est-ce positif ? De mon point de vue, oui --- quelqu'un d'autre pourrait parfaitement en avoir une lecture différente.

Ce que j'ai surtout découvert, c'est que la manière dont j'utilise l'outil compte probablement autant que l'outil lui-même.

Prenons quelque chose d'aussi banal qu'un e-mail. Je pourrais parfaitement jeter trois idées dans une fenêtre et demander à l'IA :

Fais-moi un mail avec ça.

Je préfère généralement écrire mon mail moi-même et lui demander ensuite ce qu'elle en pense. C'est moins rapide, mais le résultat n'est justement pas mon seul objectif. Lorsque certaines corrections reviennent régulièrement, elles me permettent également de réévaluer mon propre style : une phrase trop longue, une formulation inutilement compliquée, un ton qui pourrait être mal interprété. À force, je peux moi-même corriger certains de ces défauts.

Il existe donc une différence importante entre :

problème → IA → résultat → copier/coller

et :

je fais → IA critique → je comprends → je corrige → j'apprends

Dans les deux cas, j'ai « utilisé une IA ». Mais ce n'est pas tout à fait la même utilisation. Je ne cherche finalement pas une IA qui fasse les choses à ma place. Je cherche une IA qui m'aide à mieux faire les choses moi-même.

Et si nous avions tous un assistant ?

Ce qui est intéressant, c'est que cette logique ne concerne absolument pas uniquement les informaticiens.

Ma femme est institutrice maternelle. À première vue, on pourrait se demander ce que l'intelligence artificielle vient faire là-dedans. Et pourtant, elle aussi lui trouve des usages. Lorsqu'elle prépare une activité pour ses élèves et qu'elle a besoin d'une image détourée, pourquoi devrait-elle passer vingt minutes à détourer manuellement cette image si un outil peut le faire correctement en quelques secondes ? Ces vingt minutes ne constituent pas la valeur de son métier. Elle peut les consacrer à préparer l'activité elle-même, réfléchir à la manière de l'utiliser, ou simplement passer davantage de temps sur quelque chose qui apportera réellement quelque chose aux enfants.

Automatiser une tâche n'est pas nécessairement automatiser un métier. C'est même probablement là que je vois aujourd'hui l'un des usages les plus intéressants de l'IA : nous débarrasser d'une partie des tâches pour lesquelles notre présence apporte peu de valeur, afin de nous laisser davantage de temps pour celles où elle en apporte beaucoup.

Évidemment, il existe une autre lecture. Si une personne équipée d'une IA peut effectuer davantage de travail, certains y verront immédiatement la possibilité de réduire les effectifs --- et ce sera certainement le cas dans certains domaines ; je ne prétends pas que cette question se dissout simplement parce qu'on la reformule. Mais réduire systématiquement la question à :

Combien de personnes pouvons-nous remplacer ?

me semble être une manière terriblement pauvre d'envisager cette technologie. Je préfère poser la question inverse :

Que pourrait faire cette personne de mieux si elle disposait soudainement d'un assistant personnel extrêmement performant ?

Si l'assistant finit par réaliser 90 % d'une tâche, tant mieux. Peut-être que l'humain peut alors consacrer son temps à améliorer le processus, imaginer autre chose, résoudre les 10 % réellement difficiles, ou simplement se demander pourquoi nous faisons cette tâche de cette manière depuis quinze ans.

La valeur de l'humain n'est pas nécessairement de continuer à tourner chaque vis. Mais je veux qu'il reste celui qui décide pourquoi nous construisons la machine.

Qui décide ?

C'est probablement là que je place aujourd'hui ma principale limite.

Je n'ai aucun problème à demander à une IA d'analyser des données, de chercher des anomalies, de proposer plusieurs hypothèses, de comparer différentes solutions, de critiquer mon raisonnement ou de chercher ce que j'aurais pu oublier. Tout cela peut m'aider à prendre une meilleure décision.

Je suis beaucoup moins enthousiaste à l'idée de lui dire :

Décide à ma place.

Et encore moins :

Décide et agis sans me déranger.

Pour moi, la chaîne devrait plutôt ressembler à ceci :

données → IA → analyse → options → humain → décision → action

Mais il manque encore quelque chose dans cette représentation : l'humain doit être capable de comprendre suffisamment ce que l'IA lui propose. Sinon, sa présence dans la boucle n'est qu'une illusion.

Prenons quelqu'un qui ne connaît pratiquement rien à l'informatique et demande à une IA de réparer son ordinateur. L'IA lui répond :

Ouvrez PowerShell en administrateur et exécutez cette commande.

Il copie la commande, appuie sur Entrée et espère que tout ira bien. Qui a réellement pris la décision ? Être l'humain qui appuie sur Entrée ne signifie pas nécessairement être l'humain qui décide. Et plus les conséquences potentielles d'une erreur sont importantes, plus ce problème devient critique.

Le problème est peut-être moins artificiel qu'humain

On entend régulièrement des prédictions assez apocalyptiques sur l'intelligence artificielle. « L'IA va tous nous tuer dans cinq ans » fait partie de celles que j'ai déjà entendues plusieurs fois. Je n'ai évidemment aucune idée de ce que seront capables de faire les systèmes d'IA dans cinq, dix ou vingt ans.

Mais avec un peu de recul, l'humanité a déjà démontré une capacité assez remarquable à inventer elle-même des moyens de se mettre en danger. L'énergie nucléaire peut produire de l'électricité ou détruire une ville. Internet peut mettre une quantité extraordinaire de connaissances à portée de quelques clics ou diffuser une absurdité à des millions de personnes en quelques heures. Les réseaux sociaux constituent à mes yeux un merveilleux outil permettant de communiquer et de maintenir des liens ; ils peuvent également amplifier la désinformation, la polarisation, le harcèlement, ou simplement notre tendance à perdre quarante minutes devant des contenus dont nous n'avions absolument pas besoin.

Cela ne signifie pas que la technologie soit neutre ou sans risques propres. La manière dont elle est conçue compte énormément. Un algorithme auquel on demande de maximiser le temps passé sur une plateforme n'a aucune raison intrinsèque de se demander si ces quarante minutes ont été utiles à celui qui les a passées : il optimise ce qu'on lui a demandé d'optimiser. Les choix de conception, les objectifs commerciaux, la réglementation et les comportements des utilisateurs participent tous au résultat.

L'exemple de Douyin, le cousin chinois de TikTok, est intéressant à ce titre. Les deux plateformes évoluent dans des environnements réglementaires très différents : en Chine, les utilisateurs authentifiés de moins de 14 ans sont automatiquement placés en « mode jeunesse », limité à quarante minutes d'usage par jour et inaccessible entre 22h et 6h. Le contenu y est également filtré, avec notamment une mise en avant de vidéos consacrées aux sciences, aux musées, aux arts, à l'histoire ou à la découverte.

On peut évidemment discuter du modèle politique et du niveau de contrôle qui l'accompagne. Mais cela rappelle au moins une chose : un algorithme n'est pas une force de la nature. Des humains choisissent ce qu'il doit optimiser, ce qu'il peut promouvoir et les limites qu'on lui impose.

Pour l'IA, le problème me semble assez similaire. Les risques existent. Mais une partie essentielle de ces risques dépendra de ce que nous déciderons de faire de ces outils, de la confiance que nous leur accorderons et de notre capacité à comprendre leurs limites.

Alors, ceux qui refusent ?

Prenons deux cyclistes de niveau parfaitement comparable. Même entraînement, même matériel, mêmes capacités.

Imaginons maintenant un monde un peu étrange dans lequel le dopage serait autorisé, accessible à tous et, pour les besoins de l'expérience, sans danger. L'un des deux décide de l'utiliser. L'autre préfère s'en passer.

Le second n'est soudainement pas devenu moins bon. Il possède exactement les mêmes capacités que la veille.

Mais il ne part plus avec les mêmes chances.

L'analogie est volontairement provocatrice — utiliser une IA n'est évidemment pas tricher ni se doper — mais elle illustre assez bien une question qui me travaille.

Deux ingénieurs peuvent avoir des compétences comparables. Si l'un utilise une IA pour accélérer certaines recherches, explorer une première piste de script, repérer des anomalies, confronter ses hypothèses ou relire sa documentation, il dispose d'un amplificateur que l'autre a choisi de ne pas utiliser.

Cela ne rend pas automatiquement le premier meilleur ingénieur. Encore faut-il savoir utiliser l'outil, comprendre ses réponses et repérer ses erreurs.

Mais à compétences équivalentes, il peut devenir plus rapide ou être capable d'explorer davantage de pistes dans le même temps.

Et c'est probablement là que la question devient réellement intéressante.

Car si quelques personnes utilisent cet amplificateur, elles disposent d'un avantage. Si demain tout le peloton l'utilise, cet avantage finit par disparaître : ce qui constituait hier un avantage individuel devient simplement le nouveau niveau de performance attendu.

Celui qui choisit de s'en passer n'est pas devenu moins compétent.

C'est le référentiel autour de lui qui a changé.

Dès lors, une question un peu inconfortable apparaît : si une augmentation de nos capacités est autorisée, accessible et finit par devenir la norme, jusqu'à quel point le choix de ne pas l'utiliser reste-t-il réellement sans conséquence ?

Apprendre à conduire

Finalement, après avoir tourné tout cela dans ma tête sous la douche, je reviens toujours au même point : l'éducation. Ou, plus généralement, la formation.

Nous n'avons pas besoin de tous devenir spécialistes des réseaux neuronaux, de comprendre les mathématiques d'un Transformer ou de savoir entraîner un modèle. Mais si ces outils prennent une place croissante dans nos vies, nous avons besoin d'un socle minimum permettant de comprendre ce qu'ils font et surtout ce qu'ils ne font pas.

Savoir qu'un LLM peut produire une réponse parfaitement formulée et parfaitement fausse. Savoir qu'une image convaincante ne constitue pas une preuve. Savoir qu'un outil excellent dans un domaine peut être étonnamment mauvais dans un autre. Savoir vérifier une information. Et savoir reconnaître le moment où nous ne possédons tout simplement pas suffisamment de connaissances pour évaluer ce qu'il nous propose.

Plus les conséquences d'une erreur sont importantes, moins :

« L'IA m'a dit de le faire. »

constitue une justification acceptable.

Peut-être que le véritable enjeu des prochaines années ne sera donc pas uniquement d'apprendre à utiliser l'intelligence artificielle. Il faudra apprendre à l'utiliser sans arrêter de réfléchir.

Je ne sais pas si l'IA représente une nouvelle révolution industrielle --- nous manquons probablement encore de recul pour le savoir. Je ne sais pas davantage quelle place elle occupera dans nos vies dans vingt ans. Mais j'ai de plus en plus de mal à l'imaginer disparaître.

Alors autant essayer de comprendre l'outil, décider de la place que nous souhaitons lui donner, et apprendre à en exploiter les capacités sans lui abandonner notre esprit critique.

On parle énormément de la nécessité de rendre les intelligences artificielles toujours plus intelligentes. Peut-être devrions-nous consacrer au moins autant d'énergie à apprendre aux humains à bien les utiliser.

Après toutes ces réflexions, je n'ai évidemment pas trouvé sous ma douche la réponse à ce que sera l'intelligence artificielle dans vingt ans. Mais j'en suis ressorti avec une conviction un peu plus forte : avant de nous demander jusqu'où elle peut penser à notre place, nous ferions peut-être bien de comprendre ce qu'elle fait --- et de continuer à penser par nous-mêmes.

L'IA, elle, ne pense probablement pas sous la douche.

Moi, manifestement, si.

---

Sources pour aller plus loin

• L'effet ELIZA --- Weizenbaum Institute
  Joseph Weizenbaum, ELIZA et notre tendance à attribuer compréhension, intelligence ou empathie à une machine dès lors qu'elle sait suffisamment bien nous parler.

• Douyin et le « mode jeunesse » --- The Paper / annonce Douyin
  Mise en place pour les utilisateurs authentifiés de moins de 14 ans : quarante minutes d'utilisation par jour, accès impossible entre 22h et 6h et sélection de contenus comprenant notamment sciences, musées, arts, histoire et découverte. Pour cette dernière source, je vous conseille vivement un outil de traduction en ligne. :-)