Dans cet essai philosophique, l’informaticien et chercheur en sciences cognitives propose une vision critique de l’IA : il s’attache à montrer les limites de principe de cette technologie, malgré les progrès impressionnants qui ont été accomplis en ce domaine ces dernières années.
Un abîme considérable entre les deux formes d’intelligence
D’après Jean-Louis Dessalles, parler d’intelligence artificielle est trompeur. On dit d’une machine qu’elle est « intelligente » lorsqu’elle parvient à extrapoler, anticiper, prévoir, ce qui laisse de côté les capacités de compréhension et de réflexion. Or, pour l’auteur, sans ces deux dernières facultés, les machines sont en réalité à la fois intelligentes et stupides : intelligentes, parce qu’elles sont capables d’exécuter des tâches qu’on pensait jusque-là réservées aux humains ; stupides, parce que lorsqu’elles « prenn[ent] une décision intelligente, [elles n’ont] aucun moyen de le savoir ». Donc, et c’est la thèse de l’ouvrage, il y a en réalité un abîme considérable entre intelligence humaine et intelligence artificielle.
Des machines sans discernement ni bon sens
Jean-Louis Dessalles relativise les discours alarmistes tenus sur le devenir de l’IA en montrant que les promesses qui ont été faites dans les années 50-60 à la naissance de l’informatique par des chercheurs comme Turing ont été démenties par la réalité. Ces rêves étaient présentés comme vraisemblables, mais ils n’étaient en réalité rien d’autre que des utopies aussi démesurées que les prophéties qui prédisent aujourd’hui l’avènement de super-intelligences capables de prendre le contrôle de l’humanité. Cette surenchère de prédictions démesurées se comprend pour Dessalles au regard de la difficulté qu’il y a de prévoir l’évolution des innovations. Comme personne ne sait véritablement les anticiper, les prédictions sont toutes plus excessives les unes que les autres afin d’être sûr que la future invention majeure sera dans la liste. En réalité, les machines intelligentes sont loin d’être des machines qui savent tout. Ses concrétisations sont bien plus raisonnables : ce sont des systèmes certes experts, mais sur des domaines très limités. Si une machine peut fournir un diagnostic médical très précis et concurrencer les meilleurs spécialistes, elle n’a en revanche aucune efficacité dans la vie quotidienne, elle ne sait représenter ni l’ordinaire ni le quotidien. La machine ne comprend pas ce qu’un être humain perçoit de manière évidente, elle n’a ni discernement ni bon sens. La seule manière pour qu’une machine dispose de connaissances de sens commun, c’est de les lui fournir de manière explicite en utilisant des relations comportant des règles logiques rédigées par le programmeur.
L’expertise très limitée de l’IA
Le système d’apprentissage dit « supervisé » (réalisé par le programmeur) a néanmoins été remplacé dans les années 2010, à l’approche du numérique, par le système d’apprentissage profond dans lequel les connaissances ne sont plus imposées par un programmeur, mais découlent des millions de connexions qui relient des unités entre elles. Ces algorithmes informatiques appelés « réseaux de neurones » s’inspirent de l’organisation hiérarchique du cortex cérébral et qui rend possible l’abstraction, la généralisation et le progrès des apprentissages. Le réseau de neurones se divise en effet en deux : un acteur et un critique, et ces deux parties progressent ensemble au fur et à mesure des essais, si bien que la machine apprend à ajuster ses paramètres lorsqu’elle constate une erreur. Cette combinaison acteur-critique est l’une des stratégies les plus efficaces de l’intelligence artificielle actuelle, et c’est notamment ce qui a permis en 2016 à la machine AlphaGo de battre Lee Sedol, le meilleur joueur du monde au jeu de go, en jouant un coup qu’aucun être humain n’aurait tenté, ni même imaginé. Autrement dit, l’IA peut donner des performances que le programmeur lui-même n’avait pas prévues, comme si les programmes informatiques parvenaient à évoluer et s’améliorer eux-mêmes. Mais Dessalles modère les inquiétudes : contrairement au vivant, un tel système ne peut innover qu’à l’intérieur d’un cadre strictement délimité.
L’IA n’est donc en réalité pas si intelligente qu’on pourrait le croire : c’est en fait une simple capacité de calcul qui renouvelle à l’infini des schémas qu’elle a appris. Son expertise ne se fait que grâce à des statistiques de données, qui d’une part ne peuvent pas prendre en compte toutes les circonstances imaginables – car entrer chaque distinction dans un programme informatique est une tâche infinie – et qui d’autre part ne voient pas les particularités de chaque contexte. Même dotée d’un système d’apprentissage profond, une machine n’a aucune compréhension. Il lui manque notamment la capacité à établir des relations entre les idées, les choses et les personnes, ce qui la rend aveugle aux incohérences. Elle est incapable de savoir lorsque la décision qu’elle prend est bonne ou non parce qu’elle n’est pas douée de conscience. Or la conscience est ce qui nous permet d’être attentifs dans une expérience, ce qui nous permet de nous rendre compte de l’absurdité ou de la bêtise d’une décision. Donc pour lui, parler de machine consciente est une fiction qui relève au mieux d’une métaphore ou de naïveté, au pire du marketing ou d’une escroquerie.
Une peur infondée
J.-L Dessalles cherche à rassurer son lecteur : la peur envers l’IA est injustifiée, elle ne surpassera pas l’intelligence humaine. Les critères où l’intelligence artificielle n’égale pas l’intelligence humaine sont encore trop nombreux. Alors qu’un humain est capable d’agir et de comprendre à la fois, la machine, elle, ne peut faire que l’un ou l’autre. Pour qu’elle soit véritablement intelligente, il faudrait qu’elle produise des pensées intelligibles pour nous en imitant nos processus cognitifs, c’est-à-dire qu’elle soit capable de prendre en compte ce qui est au cœur des préoccupations humaines, donc qu’elle puisse percevoir et susciter de l’intérêt, comprendre les émotions, décider en fonction de ces dernières et en fonction des hiérarchies de valeurs sociales ou individuelles, comprendre l’esthétique d’une œuvre et sa sensibilité, et surtout, se montrer pertinente dans une conversation.
Malgré tout, on comprend que l’IA peut aller au-delà de ce qui est potentiellement souhaitable. D’où l’importance d’être lucide sur les réels dangers de l’intelligence artificielle, car se focaliser sur les prophéties démesurées risque de masquer des menaces bien plus réelles et imminentes. Pour ne donner qu’un seul exemple : même si l’IA n’est ni sensée ni douée de compréhension, elle peut influencer les opinions et produire de la désinformation. Par exemple, les images de synthèses sont si réalistes que l’on peut aujourd’hui faire tenir à un individu les propos d’une autre personne et le diffuser à la télévision de manière tout à fait crédible. Si bien qu’en définitive ce sont le vrai et le faux que l’on peut facilement brouiller.
Un essai à la conclusion ambivalente
Finalement, J.-L. Dessalles s’oppose à ceux pour qui les machines seraient douées d’une autonomie morale ou capables de prendre le pouvoir sur les humains, mais sa tâche est immense, car pour dire ce qui nous distingue, il faut commencer par dire ce que nous, humains, sommes. Conscient des lacunes de son entreprise, il admet finalement que rien n’interdit qu’il soit un jour possible de créer une intelligence similaire à la nôtre. « On ne peut pas exclure que le problème se pose, mais ce n’est pas demain. » S’il ne faut pas s’inquiéter d’une IA qui prendrait le pouvoir sur les humains, ce serait donc parce que ce temps n’est pas encore arrivé et que cela nous permettra de réfléchir en temps et en heure à ses usages et limitations. Une conclusion qui m’a laissée perplexe : non seulement J.-L. Dessalles semble oublier que le temps de la réflexion est souvent beaucoup plus long que le temps de l’innovation technologique, mais en plus il se dit lui-même fasciné à l’idée de développer une intelligence semblable à la nôtre, par la création d’un alter ego artificiel.
Un essai pas si rassurant
À la fin de cet essai, on n’est donc pas tellement plus rassurés : l’auteur remet à leur juste place les capacités de l’IA, mais il n’interroge pas le développement technologique et la technologisation dans son ensemble. Or, à mon sens, le réel danger de l’IA n’est pas qu’elle devienne supérieure à la nôtre ni même qu’elle prenne le contrôle de l’humanité ; le problème est que l’on recourt de plus en plus à la technologie pour agir, décider, comprendre, et la technologie ne fait plus du tout appel à ce qu’il y a d’humain dans l’intelligence, elle est sans état d’âme. Le danger n’est donc pas que l’IA nous dépasse en intelligence, mais plutôt que l’homme renonce à la spécificité de son intelligence, qu’il délègue son autonomie aux machines et qu’il se dépossède volontairement de ses facultés critiques.
