3 idées reçues sur l'intelligence artificielle à prendre avec des pincettes

Elle pense, crée, explique, aide… on confère des capacités humaines à l’Intelligence Artificielle. Mais qu’en est-il réellement de ce “compagnon” avec qui nous collaborons ? Est-il vraiment intelligent, conscient ? S'apprête-t-il à nous surpasser ? Plongée dans un voyage historique, sémantique, technique et culturel pour déconstruire 3 idées reçues sur l’IA.

L'intelligence de l’Intelligence Artificielle

De par ce nom, on aurait tendance à croire à une forme d’intelligence simulée.

Le terme "intelligence artificielle" a été utilisé pour la première fois en 1956, lors de la conférence de Dartmouth marquant le début de l’IA comme discipline. L’idée était d’imiter une forme d’intelligence à l’aide d’une machine.

Toutefois il est important de comprendre de quel type d'intelligence il s'agit. En effet, le terme intelligence porte à confusion par sa variété de significations. Résolution de problèmes, expression linguistique, culture, émotivité... tout cela peut se référer à l'intelligence.

La notion d'intelligence utilisée en IA est celle des fonctions réalisées par le cerveau humain : reconnaissance, motricité, prise de décision notamment. Dans la création d'une intelligence artificielle, on cherche à reproduire, dans la finalité du système, certaines de ces fonctions. Mais son fonctionnement global reste pour le moment encore éloigné de l'Humain.

Il y a deux branches historiques à l’IA : le connexionnisme tentant de reproduire le fonctionnement interne du cerveau, et le symbolisme cherchant à formaliser un raisonnement logique.

La voie empruntée aujourd’hui est celle du connexionnisme (les fameux réseaux de neurones). Les chercheurs·ses ont essayé de simuler un réseau neuronal sous forme de fonctions connectées entre elles : une imitation très simpliste du fonctionnement biologique. Nous avons encore des difficultés à comprendre le fonctionnement subtil du cerveau, alors pour ce qui est de l’imiter, les approches semblent grossières.

L’IA actuelle se comporte comme un algorithme géant, une suite d'étapes comme une recette de cuisine, tellement précise qu’on peut croire à de l’intelligence. Or il s’agit ici, la plupart du temps, de statistiques.

Lorsqu'une question est posée à ChatGPT, son opération consiste à fournir la réponse la plus probable statistiquement d’après les données qu’on lui a fournies. C’est un très bon subterfuge, dans la plupart des cas. Cependant, il n’est pas sûr que vous procédiez de la même manière pour répondre à une question.

Pour ce qui est des connaissances et de la compréhension, l’IA ne connaît rien - et ne comprend rien non plus. Elle n’a pas conscience de ce qu’elle manipule. Les données, fournies en entrée, sont simplement balayées pour permettre de créer un algorithme adapté à la tâche qu’on lui propose.

Pour reconnaître un chat dans une image, l’IA va par exemple chercher à identifier des oreilles et un museau : autant de critères répétitifs dans les données d’entraînement. Cependant, cela ne la renseigne pas sur ce qu’est réellement un chat, pas plus que sur ses oreilles et son museau d’ailleurs, traités en tant que pixels.

Ces systèmes montrent qu'avec beaucoup de données (100 000 images de chat, c'est beaucoup), on peut reconnaître des chats à 98%. C'est là qu'on s'aperçoit aussi que ces systèmes n'ont strictement rien à voir avec nous, les humains ; parce que ma fille de 2 ans, elle a besoin de 2 images de chats pour reconnaître les chats. [...] C'est là qu'on se rend compte que ces systèmes n'ont rien d'intelligent.
Luc Julia, informaticien spécialisé en IA, lors de la conférence "L'intelligence Artificielle existe-t-elle vraiment ?

Quant à l’adaptabilité, l’IA reste cantonnée à certaines tâches. Une IA générative de texte est capable de générer du texte. Sans ré-entraînement, elle ne sera pas capable de jouer une partie d’échecs.

On pourrait aussi se dire que l’intelligence humaine et l’intelligence artificielle ne sont pas comparables, et que l’intelligence artificielle réside dans sa capacité à résoudre des problèmes. Cependant, est-ce suffisant pour parler d’intelligence ? Sachant qu’elle n’est encore ni capable de poser les problèmes d’elle-même, ni capable d’aller au-delà de ceux-ci.

Le manque de clarté réside donc dans le terme "intelligence", trop polysémique. Cependant, il n’est plus vraiment question de changer d'expression... mais plutôt de comprendre ce qui a été mis derrière ce terme.

Je trouve qu'il n'y a rien d'intelligent dans l'IA. Mais on appelle ça IA depuis 1956, donc on continue.
Luc Julia, informaticien spécialisé en IA, lors de la conférence "L'intelligence Artificielle existe-t-elle vraiment ?"

L’IA est consciente, elle a une opinion

A force de projeter notre fonctionnement sur celui de l’IA, on a tendance à croire qu’elle opère comme nous, qu’elle est consciente et a une opinion.

De quoi se faire duper, notamment par des IA génératives de texte lorsqu’on leur pose des questions qui attendent une opinion, par exemple :

Tu préfères les chiens ou les chats ?
Comment se sent-on quand on a échoué à un examen ?
Est-ce que Dieu existe ?

Comme indiqué précédemment, le fonctionnement de l’IA consistera à donner la réponse la plus probable statistiquement d’après les données qu’on lui a fournies. Cela ne veut pas dire qu’elle comprend la question, ni que le jugement vient d’elle-même.

Les données fournies à l’IA peuvent aussi être empreintes de biais. On peut avoir le droit à des réponses sexistes, racistes… dépendant des données fournies et de la question posée.

Certaines personnes trouvent inacceptable, éthiquement parlant, que l’IA réponde à ce genre de questions. La solution mise en place par les créateurs·rices d'IA consiste à aligner leurs systèmes. C'est-à-dire, à postériori de l’entraînement, modifier les réponses qui pourraient être données par l’IA à certaines questions. Pour cela on sélectionne des notions, mots, questions auxquelles l’IA répondra qu’elle «ne peut pas répondre». Il s’agit bien ici d’une intervention humaine correspondant à des besoins de société : actuellement la réputation d'une entreprise peut être mise en péril si une grande partie de ses utilisateurs·rices estime que son produit IA est problématique.

Pour ce qui est de la conscience, on peut aussi considérer le libre arbitre. Être conscient de ses actions s’accompagne d’une capacité de décision à agir ou non. L’IA fonctionne au prompt : on lui confie une mission et elle l'exécute. Elle ne choisit pas, seule, de faire ceci ou cela. Il y a toujours une intervention extérieure.

Le fait de poursuivre un objectif unique sans aucune conscience du reste peut sembler problématique. C’est d'ailleurs ce qui est décrit dans l’expérience de pensée suivante :

Imaginons par exemple que nous lui demandions de fabriquer le plus grand nombre de trombones possible. Obnubilée par sa tâche, elle en viendrait à considérer que l’humanité est un obstacle à la production de trombones puisqu’elle peut décider à un moment ou à un autre que le compte y est. Logiquement, la super-intelligence se dirait que les humains ne sont après tout qu’un amas d’atomes qui, reconfigurés autrement, permettraient d’obtenir d’excellents trombones
-Nick Bostrom, philosophe, dans son livre “Superintelligence”

Précisons qu'il s'agit ici d'une expérience de pensée sur une "superintelligence", ou IA générale, différente des IA dites "faibles" que nous utilisons actuellement.

L’Intelligence Artificielle Générale : une IA pour les gouverner tous·tes ?

L’Intelligence Artificielle Générale (IAG) fascine et terrifie. Il s’agirait d’une intelligence artificielle qui serait en capacité d’apprendre et d’effectuer les mêmes tâches cognitives qu’un·e humain·e.

Le développement d’une IA complète pourrait signifier la fin de la race humaine… elle s’améliorera de manière autonome à un rythme croissant. Les humains, limités par l’évolution biologique lente, ne pourraient pas concurrencer et seraient dépassés
Stephen Hawking, physicien théoricien de renommée mondiale, lors d'une interview de la BBC

Cette vision a notamment été nourrie par des œuvres de science-fiction comme Terminator, Matrix, I Robot ou encore l’Odyssée de l’espace. Dans ces œuvres, l’IA possède des réflexions humaines et, dépourvue d’empathie, cherche à détruire l’humanité.

Les avancées dans le domaine de l’IA ont été fulgurantes ces dernières années, et il est vrai que l’IA fascine et impressionne. Cependant, nous sommes encore loin de l’Intelligence Artificielle Générale. Certain·es, comme le philosophe et informaticien Jean-Gabriel Ganascia, s’accordent même à dire qu’il s’agit d’un «pur fantasme».

Actuellement, les IA les plus avancées présentent des failles techniques importantes dans leur fonctionnement. C’est le cas notamment de la gestion des outliers (anomalies). Il s’agit d’informations qui existent mais qui sont «statistiquement rares» : un chien à 3 pattes, un panneau de signalisation couvert de stickers, un accent spécifique… les «outliers» sont souvent exclus des données car ils peuvent perturber le bon fonctionnement des IA. Ces événements rares se remarquent très peu dans l’utilisation. Mais peut-on correctement imiter l'intelligence humaine sans les gérer ?

De plus, les IA ont besoin de grandes quantités de données et d’énergie pour fonctionner, ce qui peut freiner leur déploiement actuel, même s’il s’agit encore de modèles «simples».

Un modèle «conscient», par conséquent plus complexe, nécessiterait une consommation d’énergie bien supérieure à ce qu’elle est actuellement. Le manque d’énergie et de matériel adapté pourrait donc être un frein conséquent au développement d'une IAG.

Enfin, l’IA s’inspire du fonctionnement du cerveau. Cependant nous n’en avons pas encore percé tous les mystères et les mécanismes. Comment peut-on imiter quelque chose sans le comprendre ?

Ça fait à peu près 40 000 ans qu'on essaie d'étudier le cerveau et de le comprendre. Aujourd'hui, les spécialistes du cerveau vous disent qu'on connait entre 20 et 40% [...] du cerveau. Donc si on essaie d'imiter quelque chose que l'on comprend entre 20 et 40%, ça va être compliqué.
Luc Julia, informaticien spécialisé en IA, lors de la conférence "L'intelligence Artificielle existe-t-elle vraiment ?"