Afficher le sommaire Masquer le sommaire
Les développements de l’intelligence artificielle génèrent l’enthousiasme des transhumanistes, persuadés qu’un jour prochain l’intelligence ne sera plus limitée à son support biologique, le cerveau, mais deviendra non-biologique. Les humains seraint alors remplacés par des cyborgs aux capacités bien supérieures.
À défaut de cet avenir inquiétant, l’IA pourrait mettre une grande partie de l’humanité au chômage dans la mesure où les machines pourront surpasser les hommes dans quasiment toutes les tâches. Mais comme dans toute révolution industrielle, d’autres tâches pourraient naître, dévolues aux humains, qui porteraient plus sur le contrôle, par exemple. L’important étant justement de garder ce contrôle sur les machines… Et pour cela, ne pas concevoir une IA capable de désactiver un mécanisme d’arrêt, de manipuler ses détenteurs, voire de se dupliquer.
Des impacts potentiellement dramatiques
Les humains doivent aussi être capables de vérifier les réponses de l’IA avec discernement et esprit critique pour s’assurer qu’elles ne sont pas biaisées. Comme on l’a vu, les impacts sur les activités des entreprises peuvent s’avérer dramatiques, aussi bien que sur la vie quotidienne des individus. Pour les entreprises, il s’agit donc de mettre en place un encadrement sûr. Le risque venant notamment des données fournies aux modèles d’IA : par conséquent, la sélection de la data prime.
Mozilla (Firefox) veut innover
En mars dernier, Mozilla annonçait vouloir redéfinir le marché de l’intelligence officielle en lançant une IA générative ouverte et digne de confiance. Le célèbre développeur du navigateur Firefox compte ainsi se démarquer des géants de la tech, lesquels semblent se désintéresser de cette fiabilité pourtant requise, souligne la société. Plus sûre et transparente, son IA générative open source permettra, par exemple, aux utilisateurs d’interroger les sources qui se cachent derrière les réponses données par les chatbots.
Elle ambitionne également de leur permettre de mieux contrôler l’IA de recommandation de contenu utilisée par des platesformes telles que YouTube ou TikTok. Mozilla espère embarquer dans ce projet une communauté de recherche et d’entrepreneurs.
