Le mythe de l'intelligence artificielle : entre fantasmes, limites et risques éthiques

Erik J. Larson, scientifique américain et expert en informatique, a écrit le livre « Le mythe de l'intelligence artificielle » pour contester les positions affirmant que les machines deviendront superintelligentes et penseront comme les êtres humains. 

Larson qualifie ceux qui s'accrochent à l'inévitabilité de l'arrivée des dispositifs ou machines superintelligentes d'« évolutionnistes technologiques » et affirme que leur vision repose sur une conception simpliste et inadéquate de l'intelligence, réduite à la simple résolution de problèmes. Il écrit :

« L'intelligence générale (et non limitée), celle que nous manifestons tous quotidiennement, ne résulte pas d'un algorithme fonctionnant dans notre cerveau. Elle s'appuie sur l'ensemble du contexte culturel, historique et social dans lequel nous pensons et agissons. L'IA aurait à peine progressé si ses concepteurs avaient adopté une compréhension aussi vaste et complexe de l'intelligence. Cependant, en raison de la simplification introduite par Turing, nous utilisons des applications limitées et n'avons aucune raison d'espérer des intelligences générales sans une reconceptualisation radicale de ce que nous entendons par IA. »

Le fait que le terme « intelligence artificielle » inclut le mot « intelligence » a transformé ce domaine en un objet de fantasmes et de spéculations sur la possibilité que les machines surpassent les êtres humains. Ainsi, le battage médiatique autour de l'IA et les hypothèses sur des machines ultra-intelligentes dominantes ont détourné l'attention de l'intelligence humaine au profit de l'intelligence technologique.

Durant la première décennie de notre siècle, Erik Larson nous informe que les nouvelles technologies de « contenu généré par les utilisateurs » (comme les wikis et les blogs) étaient perçues comme une explosion du potentiel humain. Vers 2005, une école de pensée a émergé, considérant Internet – et en particulier les technologies du Web 2.0 – comme une « nouvelle imprimerie » destinée à libérer l'intelligence et la créativité des êtres humains.

Larson qualifie ceux qui s'accrochent à l'inévitabilité de l'avènement des machines superintelligentes d'« évolutionnistes technologiques » et affirme que leur vision repose sur une conception simpliste et inadéquate de l'intelligence, réduite uniquement à la capacité de résoudre des problèmes.

Mais aujourd'hui, ces idées se sont dissipées et la révolution intellectuelle prophétisée est tombée dans l'oubli. Ce sont désormais les machines, les systèmes, qui occupent le devant de la scène, alimentant la mythologie populaire de leur ascension imparable. Les superordinateurs sont devenus des « cerveaux géants ».

Cette révolution des machines ignore l'être humain. Elle érige une vision du monde qui réduit le potentiel humain au profit de l'ascension des machines. Larson écrit : « La science, autrefois un triomphe de l'intelligence humaine, semble désormais s'enliser dans une rhétorique autour du pouvoir du big data et des nouvelles méthodes informatiques, où le scientifique joue le rôle d'un technicien se contentant, en substance, de vérifier des théories préexistantes sur les superordinateurs Blue Gene d'IBM. »

Le mythe de l'intelligence artificielle, souligne Larson, prédit une compréhension si avancée des principes de la pensée intelligente qu'ils pourraient être réduits à un simple exercice d'ingénierie, intégré à la robotique et aux systèmes d'intelligence artificielle. Grâce à l'accès à d'immenses volumes de données, à leur intégration et à des plateformes d'analyse, les machines nous permettraient de découvrir de nouveaux principes et théories sans nécessiter la contribution des recherches humaines.

Les scientifiques n'auraient plus besoin de perdre du temps à enquêter de manière traditionnelle :

« À l'ère de l'IA, il semble que nous ne pouvons plus attendre que les théories émergent de la découverte et de l'expérimentation. Nous devons placer notre foi dans la suprématie de l'intelligence informatique sur l'intelligence humaine – étonnamment, tout en affrontant le mystère théorique non résolu qu'est d'insuffler une intelligence flexible aux ordinateurs. »

Face à ce « paradigme informatique », un défi éthique de taille se dresse pour la science : les valeurs scientifiques sont-elles en train de disparaître avec cette diminution du rôle de l'homme de science ? Quel est le sens du bouleversement culturel actuel ? Sommes-nous témoins de l'avènement de l'anti-intellectualisme ou, plus tragiquement encore, de l'antihumanisme, avec cette mythologie de machines superintelligentes censées remplacer les humains ? La pensée humaine est-elle en train de perdre son prestige au profit de spéculations sur son remplacement par des programmes informatiques ?

Le mythe de l'intelligence artificielle, explique Larson, prédit une compréhension si approfondie des principes de la pensée intelligente qu'ils pourraient être réduits à un simple exercice d'ingénierie, intégrable dans la robotique et les systèmes d'intelligence artificielle.

Larson nous explique qu'aujourd'hui, personne n'a la moindre idée de comment construire une intelligence artificielle générale ; et qu'à partir d'une véritable position scientifique, il existe de nombreuses raisons de rejeter l'idée d'une progression inévitable et linéaire vers des machines superintelligentes. Cependant, ajoute-t-il, nos sociétés prennent un risque en mettant en service des machines d'intelligence artificielle actuelles – limitées, étroites, de véritables « érudits puissants mais idiots » – dans des domaines essentiels de la vie humaine pour des motifs utilitaires liés aux entreprises, à la consommation et aux gouvernements :

« Les voitures autonomes en sont un bon exemple. Il est très bien de parler des progrès dans la reconnaissance visuelle des objets jusqu'à ce qu'un jour, au détour des nombreuses conséquences imprévues, et donc absentes des données d'entraînement, votre véhicule percute un bus rempli de passagers en tentant d'éviter un pylône électrique (c'est déjà arrivé).

Prenons également les problèmes liés aux biais et à la reconnaissance d'images : Google Photos a un jour étiqueté une photo de deux Afro-Américains avec le terme GORILLE. Après cet énorme désastre en termes de relations publiques, Google a résolu le problème… en éliminant simplement les images de gorilles du jeu de données utilisé pour son système d'apprentissage profond. »