Le grand bluff de l'Intelligence Artificielle mobilise deux catégories de jobards : la première est constituée de ceux qui attendent de l'IA des miracles sur le plan économique ; les promoteurs de cette technologie font miroiter cette poule aux oeufs d'or pour obtenir de la classe politique et des investisseurs privés des crédits substantiels, atteignant parfois des montants doublement faramineux et scandaleux, vu l'état des finances publiques.
Dans tous les domaines technologiques, le bilan - et donc le progrès - est mesuré par les industriels eux-mêmes. La médecine n'est pas la seule science à avoir été phagocytée par l'industrie.
La seconde catégorie de jobards, sans doute échaudée par la propagande des industriels, mais à peine plus sceptique, perçoit l'IA comme une menace diabolique pour l'Humanité. En réalité, l'IA est une vieille lune. Si l'on voulait sérieusement se protéger contre les risques de l'IA, on chercherait à enquêter sur son usage par les grandes banques d'investissement à des fins de placements et de contrôle des activités, au lieu de pousser des cris d'orfraie à propos d'une menace future. En effet l'usage de l'IA par les acteurs des marchés financiers n'est pas nouveau ; il a déjà fait les preuves de sa défectuosité. Les cadres bancaires sont d'ailleurs formés aux mathématiques, la plus molle des sciences, et ils conçoivent la science économique comme un ensemble de formules magiques. (...)
Le récent krach bancaire du printemps 2023 aux Etats-Unis illustre bien plus l'impuissance de l'IA que sa toute-puissance. La Silicon Valley Bank perdit alors en une semaine plus que l'ensemble des banques ruinées par le krach de 2008.
Bien sûr la responsabilité des élites politiques est très grande. Dans un régime politique rationnel (prudent), le krach mondial de 2008 aurait dû être suivi d'arrestations dans les milieux bancaires et financiers, comme on démantèle parfois des cartels de trafiquants de drogue ; bien entendu l'immunité judiciaire est un des principes du capitalisme, au niveau mafieux qu'il a atteint désormais. Le directeur de la Silicon Valley Bank en fuite a expliqué dans un communiqué de presse qu'il était "responsable mais pas coupable". On connaît la chanson.
Le parti politique populiste grec qui avait inscrit dans son programme des mesures contre la corruption bancaire, a dû y renoncer très vite après avoir remporté les élections, tant les moyens de pression des banques internationales sont puissants. On sait depuis le fiasco de ce parti populiste que les scrutins n'ont plus qu'une fonction cathartique.
*
Le grand bluff de l'IA repose largement sur la science-fiction, qui entame largement l'esprit critique d'une partie de l'opinion publique, à commencer par la jeune génération qui a baigné dans l'idéologie du dynamisme scientifique de la littérature de science-fiction. On peut voir ici ou là, parfois dans des revues à prétention scientifique, les romans fantastiques de Jules Verne présentés comme des ouvrages pionniers dans le domaine de la science !?
Le conte de Mary Shelley, "Frankenstein ou le Prométhée moderne" (1818) est, lui, bien plus scientifique car, sans remettre en cause l'aspiration humaine "prométhéenne" au progrès scientifique, il met en garde contre une dérive possible de la science et des milieux scientifiques. La "communauté scientifique" n'est pas moins corruptible que la classe politique - de tout temps les savants ont subi des pressions. Récemment, le mathématicien A. Einstein s'est laissé entraîner dans un projet militaire de type totalitaire. Ingénieur vétérinaire et non médecin, Louis Pasteur a été poussé par l'appât du gain et la soif de reconnaissance à des malversations avérées (comme la fabrication de fausses preuves).
*
Deux rapprochements ou analogies permettent d'élucider le procédé du bluff de l'IA, c'est-à-dire du slogan technologique, voire technocratique, et des protestations creuses qui, en lui faisant écho, ne font qu'amplifier la propagande : tout d'abord l'analogie avec les slogans transhumanistes, ensuite l'analogie entre l'IA et la novlangue de "1984", instrument de l'Etat totalitaire (hégélien).
Le transhumanisme est, en effet, une idéologie scientifique promue par des biologistes dans les années 1930, persuadés de parvenir dans un avenir proche à améliorer l'espèce humaine, c'est-à-dire créer un surhomme par le moyen de l'eugénisme. Bien informé des détails de ce projet, puisque son propre frère le biologiste Julian Huxley en était un des principaux acteurs, Aldous Huxley publia "Brave New World" (1932) afin de dénoncer l'ignominie de la communauté scientifique occidentale. Mieux que ça : Huxley a souligné le principe darwiniste sous-jacent à la barbarie nazie, avant que le parti national-socialiste ne parvienne au pouvoir. Le darwinisme servira en effet de caution pseudo-scientifique à la propagande du progrès industriel dans tous les régimes totalitaires. Les élites totalitaires se considèrent elles-mêmes comme une race supérieure.
Pour cette raison le roman d'A. Huxley demeure tabou ; "Brave New World" désigne nettement le darwinisme social comme un élément central des politiques élitistes totalitaires, loin d'être l'apanage du seul IIIe Reich.
Il convient de parler d'ésotérisme darwiniste à propos de la théorie de la race aryenne en particulier, et du transhumanisme en général. En effet, quatre-vingt dix ans après les slogans transhumanistes de Julian Huxley, le surhomme biologique demeure invisible, si l'on fait exception des super-héros américains de fiction qui véhiculent cette idéologie, ou des compétiteurs sportifs dopés, publicités vivantes pour le "struggle for life".
Pire que ça : le massacre d'embryons "surnuméraires" auquel la Chine a procédé au cours des cinq dernières décennies, au nom de principes technocratiques eugénistes importés d'Occident, pourrait s'avérer la pire décision économique de son histoire récente. L'Allemagne a payé très cher sa culture du surhomme biologique, dont la Chine n'applique pas une formule très différente.
Il va de soi que les promoteurs du transhumanisme et de la médecine génétique (impasse médicale catastrophique) font beaucoup d'efforts pour blanchir leurs discours du soupçon de connivence avec l'idéologie nazie, préférant faire la promotion d'un surhomme métissé ou d'une surfemme. L'industrie, dotée de puissants moyens de propagande, a intérêt à censurer les critiques de l'idéologie darwiniste.
Que font les comités d'éthique scientifique pendant ce temps ? Il semble que, hormis Simone Weil dans la première moitié du XXe siècle, aucun philosophe n'a pris la peine de se pencher sérieusement sur l'absurdité de la science physique dite "quantique", et les conséquences sociales qui en découlent (S. Weil poursuit peut-être ici sans s'en douter le travail d'Alfred Jarry, dont le personnage d'Ubu est inspiré d'un professeur de sciences physiques).
Huxley comme Orwell font le lien entre la culture totalitaire et une phase de développement industriel ; celui-ci est parfaitement contrôlé dans "BNW", tandis qu'il ne l'est dans "1984" qu'au prix d'une violence étatique, qui absorbe une bonne part des forces de l'Etat, ramené pratiquement à un service de propagande. C'est là le principal point de divergence entre Huxley et Orwell, attesté par leur correspondance. Orwell est sans doute plus conforme, sur le plan historique, à l'extraordinaire promotion de la violence par les élites bourgeoises dans les milieux populaires, en particulier par le moyen de la culture de masse, unanimement dénoncée par tous les critiques du totalitarisme.
Les élites dirigeantes parviennent à un monde parfait (dans "BNW") grâce à la manipulation génétique d'une large partie de la population, pour la rabaisser au niveau de la brute ou de l'animal. Huxley envisageait que l'usage de produits stupéfiants puisse suppléer les manipulations génétiques et, de fait, les services secrets de certains gouvernements totalitaires ont essayé de développer de telles technologies.
Le coup de bluff de l'IA ne fait donc que renouveler le coup de bluff transhumaniste. Il ne s'agit pas tant, ici, de nier la menace que les mésusages de l'IA représentent, que de souligner que cette menace n'a rien de nouveau et qu'elle n'est pas liée à une technologie en particulier. De plus les projets de régulation de l'IA ne répondent pas à une question essentielle : qui régulera les régulateurs et les comités d'éthique, au stade où les commissions d'enquête parlementaires font semblant d'enquêter ?
Hannah Arendt expliquait justement que "la mentalité totalitaire n'est pas tant dans l'intelligence artificielle que dans la croyance qu'elle peut surpasser l'intelligence humaine."
Huxley "confirme" H. Arendt : le totalitarisme passe en effet dans "BNW" par le renoncement de la petite caste dirigeante à la science au profit de l'utopie ; cette petite caste est consciente que le totalitarisme repose sur le confort intellectuel. Winston Smith, contrairement à ses concitoyens, ne parvient pas à se contenter du confort intellectuel représenté par la confiance aveugle, quasi-amoureuse, que Big Brother exige des citoyens d'Océania.
Un tel renoncement à la science peut passer par la propagation de doctrines scientifiques ésotériques, transhumanistes ou autres, ou encore par l'enseignement d'une épistémologie négationniste telle que celle de Karl Popper (qui consiste à déduire l'histoire du progrès scientifique des "avancées technologiques", suivant une méthode téléologique et non scientifique).
*
G. Orwell a imaginé, dans "1984", que des linguistes concevaient, pour le compte de Big Brother, afin d'abrutir la masse des citoyens d'Océania et la soumettre plus complètement, une "novlangue" (newspeak). Ce nouveau parler a pour but de réduire le langage humain à un simple outil de communication, en empêchant ainsi le langage de servir de support à la littérature ou à la science. Le développement de la culture audio-visuelle dans les pays occidentaux les plus avancés (Etats-Unis, Japon...) est une manifestation concrète de cette tendance totalitaire. On peut aussi poser l'équivalence de la culture bureaucratique et de la "novlangue".
Le point commun entre la novlangue de "1984" et l'IA est qu'elles posent l'équation entre l'intelligence et le langage, voire la signalétique. La bêtise des robots tient à leur absence d'autonomie vis-à-vis des ingénieurs qui les programment. C'est une telle dépendance ou soumission des citoyens que les linguistes, fonctionnaires au service de Big Brother, visent en imposant la novlangue.
Le robot représente le citoyen-esclave idéal du point de vue des élites totalitaires ; il ne risque pas de s'opposer à la "valeur travail" puisque c'est une bête de somme. Les romans dystopiques qui envisagent que les robots puissent être mis au service d'un régime totalitaire ne font que répéter "1984" sur le point de la novlangue, en poussant moins loin l'analyse de l'hyper-élitisme caractéristique du totalitarisme.
La bêtise des ingénieurs qui fabriquent des robots tient, elle, à leur ignorance de pans entiers de la nature, c'est-à-dire à leur savoir lacunaire. On ne peut couper l'intelligence scientifique de son objet d'étude. Autrement dit l'IA ou le langage renferme l'illusion du savoir absolu ; une telle illusion n'est pas très éloignée de l'illusion du savoir encyclopédique. Wikipédia n'est pas la science, pour la principale raison qu'elle se présente comme un catalogue de savoirs, et qu'il n'y a pas de progrès scientifique sans hiérarchisation du savoir scientifique ni organisation des différentes branches de la science.
Une disposition totalitaire caractéristique consiste à placer les mathématiques au-dessus des sciences de la nature, c'est-à-dire l'outil scientifique au-dessus de l'objet de recherche (dont les sciences dites naturelles sont plus proches), tel un peintre qui placerait la perspective au-dessus de la nature. On peut même dire plus nettement que la mystique de l'Etat totalitaire est une mystique mathématique.
*
Le grand bluff de l'IA consiste donc essentiellement à renforcer la légitimité des élites dirigeantes auprès de leurs assujettis, dans un contexte totalitaire d'abus de pouvoir manifeste. On crée ainsi un clivage artificiel entre des citoyens légitimistes éblouis par les promesses mirifiques de l'IA (des amateurs de science-fiction), et des citoyens plus sceptiques ou plus inquiets (des amateurs de science-fiction post-apocalyptique), mais qui ne contestent pas l'essentiel, à savoir le monopole des élites technocratiques sur la science et ses applications. Diaboliser l'IA ne fait que contribuer à renforcer l'illusion qu'elle est un outil puissant, alors qu'elle n'est qu'une science-fiction comme le transhumanisme nazi ou post-nazi.
Très utilement A. Huxley a isolé le dispositif anti-humaniste des élites totalitaires occidentales, à savoir le darwinisme. Il se substitue pratiquement à toute autre forme de légitimation juridique sérieuse de l'élitisme. Pourquoi les élites technocratiques exercent-elles le pouvoir sans partage ? Parce qu'elles constituent une espèce de primates supérieurement "intelligente". Ainsi se considèrent-elles.
Plus utile Orwell encore ; contrairement à Huxley qui conçoit la domination des élites totalitaires comme inéluctables ou presque, O. souligne les limites de leur toute-puissance ; l'animalité ou l'absence d'éthique en est une, car elle se heurte indéfiniment à l'aspiration de certains humains à vivre en êtres humains et non en pions.
La résilience que les élites totalitaires peuvent imposer, par le biais d'un conditionnement culturel, en particulier à la jeune génération, a des limites quasiment existentielles. Les robots sont entièrement dénués d'éthique et de bon sens, mais l'aspiration à l'éthique est bien plus naturelle que l'aspiration au vice, quasiment suicidaire, et que l'on ne retrouve que chez des enfants qui endurent et subissent un conditionnement à des réflexes.