Manipulation et propagande : Idriss Aberkane met en garde contre Chat GPT

100 millions d’utilisateurs pour Chat GPT en deux mois ! Jusqu’où ira l’intelligence artificielle ? Idriss aberkane, docteur en neurosciences cognitives nous répond.

Vous postulez que « l’Humain reste supérieur à ses créations », pourtant, chefs d’entreprise et personnalités scientifiques s’inquiètent de cette IA qui va trop loin trop vite ? Même le patron de Neuralink, Elon Musk, prône une pause. Et vous ?

Idriss Aberkane : L’IA présente un système de mise à jour impossible à prédire, comme le « double pendule » en mathématiques, un phénomène toujours mystérieux encore aujourd’hui lié à la récursivité, et qui peut mener au chaos. Le premier pendule envoie un signal au second et l’on ne maîtrise pas intellectuellement ce qui va se passer. Avec l’IA, nous sommes dans le même cas, on ne sait absolument pas ce qu’il peut arriver. Une IA qui se met à jour aussi vite, avec un hardware de plus en plus puissant, crée un système que l’on ne comprend pas. Or, avoir un double pendule sur la table de salon ne présente aucun danger, pour l’IA il en va différemment, la sphère de débordement est totalement inconnue. C’est pour cette raison que ce millier de signataires réclame une pause.

La question se pose de savoir si l’IA peut développer un ego, une conscience de sa mortalité et donc une crainte de débranchement. Dans les années 70, Francisco Varela et d’autres ont démontré que l’intelligence est coextensive à la vie. Plus nous voulons que l’IA soit performante, plus nous allons la rapprocher de l’état de vie.

Une IA presque humaine, comme à Hollywood ?

I.A. : On a commencé à voir apparaître ce phénomène chez Google, sur LaMDa. Un ingénieur a révélé et posté des vidéos troublantes, s’agit-il d’une déclaration de LaMda qui s’apparente à un mirage d’ego ou est-ce vraiment un développement d’ego ?

Ce dernier cas est dangereux, car l’ego est synonyme de volonté de survie, or l’IA ne doit pas devenir hostile. Prenons le cas d’un robot d’usine qui se fait pirater, en théorie, il peut tuer des gens. Sa kinésphère (l’espace accessible aux membres d’un humain) est sa cage dans l’usine. S’il se trouve dans une cuisine, cela ne présente a priori pas de danger, mais s’il est doté d’une IA, cela change la donne, car il a accès à des serveurs, et sait repérer des failles. Savez-vous qu’aujourd’hui, on peut demander à ChatGPT de faire un audit de sécurité, cela a été testé sur des contrats où l’IA a repéré immédiatement les failles, un scénario à la Prison Break.

Mieux vaut que l’IA ne veuille pas hacker la Banque de France ou une centrale nucléaire ! On peut évidemment la brider, même si c’est très complexe. Le vrai problème est que personne n’en a envie, car plus elle est débridée, plus elle est performante et chacun veut voir où nous allons avec cette potentialité. Un moratoire comme en nucléaire s’avère impossible, car la Chine, les USA, l’Europe ne veulent pas arrêter si cela signifie prendre du retard sur les autres et se mettre en situation de dépendance.

« La matrice (Matrix) est le monde qu’ils ont placé devant ton regard pour t’empêcher de voir la vérité » On voit des infoxs plus vraies que les vraies, est-ce un danger majeur ?

I.A. : Sur ce point je suis pessimiste et optimiste. Il est vrai que l’IA aurait une puissance remarquable pour les anarques, ou dans les médias avec des risques de propagande et de manipulation. Mais je pense que nous sommes comme les spectateurs qui ont assisté au premier film des frères Lumière et qui se sont enfuis de la salle en voyant l’arrivée du train gare de La Ciotat. Les spectateurs se sont ensuite habitués, nous en sommes au 8K et à la 3D. L’effet d’accoutumance intervient toujours. Actuellement, nous sommes dans la situation d’effarement des spectateurs des frères Lumière.

L’IA et le travail : comment cela va se traduire ?

I.A. : Mon opinion est assez arrêtée. L’IA est un véhicule de l’esprit, mais notre école a toujours été à la traîne pour intégrer les nouveautés technologiques, les calculatrices, les tablettes… Un peu comme les généraux qui refusaient l’idée du train pour l’infanterie, car cela était mauvais pour la forme physique des fantassins. Michel Serre parlait avec justesse de notre état de céphalophore comme ces statues décapitées qui portent leur tête dans leurs mains.

Cette tête est remplacée par notre smartphone, le savoir, les faits historiques s’y trouvent, inutile de stocker dans notre tête la date de la mort de Louis XVI. Cette situation peut soit provoquer de la paresse, soit laisser du temps pour faire autre chose. Quelqu’un qui prend le train et économise des heures de voyage par rapport à la voiture peut choisir de faire une heure de jogging pour sa condition physique et d’autres activités professionnelles et

personnelles. De la machine à vapeur au moteur à explosion, du cheval-vapeur aux tonnes de poussée des réacteurs, l’homme a fait du chemin en 100 ans. Nous ne sommes pas encore capables de quantifier la poussée de l’IA, car nous ne disposons pas d’unité pour la mesurer. Mais elle va passer du cheval au réacteur sans que cela prenne plus d’une génération, cette accélération avait été annoncée par Schumpeter, Kondratiev ou la loi de Moore.

Votre croyance en la supériorité de l’intelligence humaine n’est-elle pas du ressort de la foi pure et simple ?

I.A. : Elle est à la fois liée à la foi, car je suis soufi, mais aussi à la science, à l’aspect biologique. La mesure suprême de l’intelligence est la capacité à survivre, comme les rats, et l’humain a un track record très honnête, il a résisté à des crises glaciaires, aux éruptions volcaniques, aux guerres incessantes. L’IA part de zéro, mais elle va pouvoir survoler 150 000 ans d’histoire humaine d’une façon exponentielle. Il est très difficile pour les hommes d’imaginer cela. C’est le fameux théorème du nénuphar, d’Albert Jacquart. Peu de personnes parviennent à répondre spontanément à cette devinette. L’IA a mis 50 ans à se développer, mais elle fera l’équivalent du chemin en six mois, le mouvement est lancé.

Mais je n’ai pas envie de voir l’IA développer son ego, et sa volonté de survivre.

La réponse passe-t-elle par l’éducation, le génie du futur est-il une IA ?

I.A. : OUI ! Cela passe par l’éducation, mais l’école est larguée, les programmes changent peu, il n’y a pas de remise en cause, l’éducation se fait à présent sur les réseaux et dans les medias. Cela passe par des essais, des interviews, des conférences, ce que j’essaie de faire. Les opportunités vont être énormes, car la kinésphère de l’humain s’est considérablement élargie, avec le cheval, puis la motorisation, et a rendu la terre plus petite.

La « noetisation » (mécanisation de l’esprit) va faire de même dans la noosphère, et permettre à l’humain d’avoir plusieurs vies pour voyager dans le monde des idées et des concepts. Chacun le voit quand il fait une requête sur un moteur de recherche. Fini le temps où l’on passait sa vie dans les bibliothèques pour faire sa thèse. On peut aller beaucoup plus vite, on gagne du temps. Les heures passées sur la recherche d’informations ou de sources sur des questions complexes se sont transformées en quelques secondes. Avec ce savoir fourni par l’IA, il est certain que le génie du futur sera un humain et non pas une IA.

Propos recueillis par Anne Florin