L’humain va t’il pouvoir encore faire des choses par lui-même, même réfléchir? L’IAG va t’elle prendre le dessus et diriger le monde de demain? Faites-vous votre opinion.

Au moins dès le début du documentaire, on sait l’orientation qui a été choisi : l’IA est dangereuse. La citation de Stephen Hawking est sans appel : « La création d’une intelligence artificielle serait le plus grand événement de l’histoire de l’humanité. Mais il pourrait être aussi le dernier« . En effet, difficile de ne pas être une donnée. Notre téléphone peut nous suggérer des achats par rapport aux précédents que l’on a fait, notre téléphone sait partout où l’on va, les caméras dans l’espace publique peuvent se connecter au téléphone et proposer des offres adaptés dans un centre commercial, dans une manifestation des caméras identifie les meneurs que la police peut arrêter… Alors quelle liberté avons nous sans que cela puisse être une donnée à analyser?

Des chercheurs apprennent aux systèmes artificiels à trouver des réponses par eux-mêmes. Ils doivent trouver seuls les tâches qu’ils doivent faire. Mais même si cela va amener une plus-value cela va aussi créer des inégalités et du danger. L’IA pourra être programmer pour générer des fakes news de grosses ampleurs ou même générer une dictature bien ordonnée. Lors des élections aux Etats-Unis de Donald Trump ou lors du Brexit, on a entendu parlé de l’analyse de données des personnes via Facebook pour orienter les comportements. Le libre arbitre serait-il manipulable si facilement? L’esprit critique a t’il décidé de prendre des vacances sur la longue durée?

Les GAFAM ont un fort pouvoir. Les technologies comme Facebook, Google Home… sont addictives. Les réseaux sociaux portent attentions aux crimes de haine et facilite la réunion des extrémistes d’extrême droite. Pour ma part, je trouve cela facile de dire que si les gens vont du côté obscur c’est à cause des algorithmes. Avant internet, les gens allaient voir les gens se faire décapiter, voler des morceaux sur les cadavres pour les vendre, les magazines qui parlaient des criminels se vendaient très bien…. La fascination pour le morbide a à tout époque attirer les masses. Internet permet plus d’accès au morbide et ces gens n’ont pas besoin d’être aidé pour trouver cela. Après, ils peuvent mieux identifié et on peut leur suggèrer de rejoindre d’autres personnes malsaines comme eux. N’oublions pas que le magazine « Détective » créé en 1928 sur fonds de meurtriers se vend toujours. Un cas rare dans l’histoire de la presse.

L’intelligence artificiel générale va elle tout révolutionner. Elle sera une nouvelle forme de vie qui rendra l’être humain obsolète, dépassé. Que deviendrons-nous ? Que va faire la classe moyenne? La voiture autonome pourrait faire disparaître 10 millions d’emplois aux Etats-Unis. Que vont devenir ces gens? Chaque révolution industrielle amène des changement sociaux profonds. Peut-on vraiment rien à faire en y réfléchissant au préalable? Peut-être que l’IAG aura la réponse? L’IA est déjà partout aussi bien dans la police prédictive qui génère des boucles de rétroaction. Le système peut-être biaisé car si on demande toujours aux mêmes personnes de présenter leurs papiers lié à une discrimination raciale, le chiffre va forcément être tronqué dans une zone. Cela n’est pas valable qu’en Amérique. Grâce au fait d’avoir des caméras partout permet de vous suivre partout. Et si un jour on venait à vous incriminer, tous vos faits et gestes pourraient être retracés.

L’armée a décidé aussi de traiter des algorithmes pour mieux gérer la guerre. Google a participé au projet mavel pour mieux gérer les drones. Les humains ne pouvaient gérer que 15% des données alors qu’une IA peut en gérer 100%. Le but est d’être le premier à avoir des armes létales autonomes. Il faut mieux que cela soit une « démocratie » qui possède la technologie la première car c’est bien connu, les démocraties sont des pays gentils. Où est le tobogan du monde des bisounours?

Rassurez-vous les chinois sont eux encore plus à la pointe puisque toutes les données sont publiques. N’oublions qu’ils ont déjà créé le crédit social qui vous permet d’avoir des avantages si vous respecter la loi et ne fréquenter pas de dissidents (au sens très large du terme). Leur technologie va être après revendu à qui le souhaite. Même dans l’armement, car nous sommes toujours en situation de conflit partout donc d’intérêt financier en jeux. Qui peut tirer le signal d’alarme afin de protéger la liberté de chacun et créer la paix?

Un documentaire qui fait froid dans le dos sur l’avenir et l’IA. Aucune demi-mesure mais il tient au spectateur de réfléchir et voir d’autres choses (et lire).

Lien vers le documentaire : https://www.arte.tv/fr/videos/081590-000-A/ihuman-l-intelligence-artificielle-et-nous/

« L’intelligence artificielle va-t-elle remplacer l’humanité ? Ce documentaire prend la mesure de l’emprise des algorithmes sur nos vies. Il donne la parole à ceux qui débattent de l’IA (sociologues, avocats des droits de l’homme, scientifiques ou journalistes d’investigation) et à ceux qui l’inventent, comme Jürgen Schmidhuber et Ilya Sutskever, à la posture ambivalente.

« La création d’une intelligence artificielle serait le plus grand événement de l’histoire de l’humanité. Mais il pourrait être aussi le dernier« , disait Stephen Hawking. Le célèbre cosmologiste avait prévu la croissance infinie de l’informatique mais partageait avec certains pionniers la crainte qu’elle ne devienne incontrôlable. Aujourd’hui, l’IA promet d’aider à guérir des maladies, de faire face aux changements climatiques ou de combattre la pauvreté. Mais elle menace aussi d’influer insidieusement sur nos comportements, de mettre à mal l’idée même de sphère privée ou d’aider les dictatures à asseoir leur pouvoir. En proie à une surveillance algorithmique, notre identité peut dorénavant se réduire… à des données.

Toute-puissance
L’IA sera vite dépassée. On parle aujourd’hui d’une intelligence artificielle générale (IAG), capable de s’adapter et d’apprendre seule, qui égalerait, voire dépasserait les capacités humaines. De quoi allécher les firmes qui font commerce des données numériques (les célèbres Gafam). Le documentaire dresse l’état des lieux de l’IA en donnant la parole à ceux qui en débattent (sociologues, avocats des droits de l’homme, scientifiques ou journalistes d’investigation) mais aussi à ceux qui l’inventent, comme Jürgen Schmidhuber et Ilya Sutskever, deux grands chercheurs et initiateurs, à la posture ambivalente : conscients de la toute-puissance de leur création mais déterminés à poursuivre leurs travaux. « 

Réalisation : Tonje Hessen Schei