Intro
Suite au visionnage récent d’interviews de Mo Gawdat, l’ancien directeur marketing de Google X, sur les dangers de l’Intelligence artificielle, je voulais un peu faire un tour d’horizon de comment le futur a été imaginé dans des œuvres de science-fiction. Je ne veux pas faire de la propagande ou du pessimisme prononcé, mais il est important de ne pas être dans ce qu’on appelle le piège de l’optimisme (ça va aller! le gouvernement va régler tous les problèmes). Et pour cela, je pense qu’un tour d’horizon des scénarios imaginés dans les œuvres de science-fiction peut ouvrir des réflexions que chacun sera libre de mener avec qui il veut.
Les scénarios catastrophe
Commençons par le pire des scénarios, l’Intelligence Artificielle déclare la guerre aux humains et a une armée de robots tueurs ainsi que le contrôle sur l’armement nucléaire. Ce scénario, c’est celui de Terminator. 5 films sont sortis de cette saga. Le plus emblématique étant Terminator 2 : le jugement dernier. Dans la première scène d’intro de ce film, on voit bien qu’on est mal barré : plaine de jeux pour enfants en flamme tapissée de crânes. L’IA, un système informatique nommé Skynet, contrôle robots, avions et bombes. Les humains resistants ne sont pas quantifiés mais ne semblent pas faire le poids. Quoique, ils ont réussi à envoyer un cyborg dans le passé pour sauver leur leader.
Un tel scénario demanderait une prise de conscience de l’IA, un accès de l’IA à des armements de guerre (récemment les Etats-Unis ont installé de l’Intelligence Artificielle dans leurs anciens F16 et sont plutôt contents du résultats (pas de pilote, pas de G-shock)) . Il faudrait également que l’IA aie une motivation pour détruire leurs créateurs.
Un autre scénario catastrophe est la mise en esclavage de l’humanité. Le plus frappant étant Matrix où l’humanité croit vivre normalement alors qu’elle n’est en fait qu’une source d’énergie. Matrix est sans doute un peu trop loin dans ce type de scénario mais il y a des questions qui se posent par rapport aux contenus Internet ou vidéo générés par intelligence artificielle. Ne risque t’on pas d’avoir du contenu généré individuellement en fonction de notre profil lui-même enregistré dans la base de données de la société qui contrôle cette IA? C’est déjà un peu le cas de Facebook et autre Instagram, non ?
La solution souvent évoquée pour lutter contre ces scénarios catastrophe est de « débrancher la prise ». Oui, mais vu les enjeux financiers actuels, qui s’y risquerait ? Quand faut il le faire ? L’IA prendra t’elle conscience de ses points faibles pour empêcher celà (en empêchant l’accès au datacentre, en se répliquant) ou interviendrons nous à temps ? Qui le fera ? Le gouvernement ou des citoyens révoltés ?
Les scénarios cyberpunk
Le deuxième type de scénario sont souvent teintés de cyberpunk. L’Intelligence Artificielle ne va pas détruire l’humanité mais va profondément bouleversé la société.
Une référence personnelle a ce sujet est l’historique du jeu de rôle Shadowrun. Dans celui-ci, on apprend que c’est une Intelligence Artificielle hors de contrôle qui provoque le crash de l’Internet. Ceci dit, ce crash vient avec la création d’un nouveau système informatique la Matrice, les utilisateurs parcours ce nouveau système via des implants cérébraux.
Question purement complotiste : Est ce qu’un crash de l’Internet provoqué par l’IA ne profiterait pas à Elon Musk et son Neuralink ?
Dans Shadowrun, il est à noter qu’il n’y a pas une IA mais plusieurs IA chacune issue d’une conception corporatiste. Certaines corporations comme Renraku ont d’ailleurs bien du mal à contrôler leur bébé.
Une autre grande référence de Science-fiction s’inscrit dans ce type de scénario « c’est pas la fin mais ça va changer » : Blade Runner. Les réplicants sont implantés en Intelligence Artificielle, encore une fois par une corporation : Tyrell Corporation. Autonomes, ces androïdes sont des esclaves des humains, utilisé pour des travaux pénibles ou dangereux, dans les forces armées ou comme objets de plaisir. . Jusqu’à ce que certains aient une mal-fonction forçant l’intervention d’unité des police spéciale:les blade runner pour effectuer le retrait.
Etonnament, et de l’avis de nombreux sites, c’est vers ce type d’utilisation de l’IA que les sociétés vont.Il est envisagé de mettre l’IA sur des robots ménagers ou des sex dolls. Blade runner serait donc l’oeuvre qui se rapprocherait le + de notre futur ?
Les scénarios fleur bleue
Terminons par les scénarios positifs. Il y en a plusieurs :
L’Intelligence Artificielle reste un gadget qui couplé à un robot, peut être un bon compagnon de route. C’est le cas de Tars le robot dans Interstellar, bienveillant et autonome. On peut aussi supposer que MOTHER l’ordinateur de bord d’Alien est un système intelligent mais complètement sous contrôle.
Actuellement, ChatGPT est ce système aidant et bien utile. Est-ce que ça va changer avec la nouvelle version d’IA générative (capable de raisonner) GPT 5, arrivant bientôt ?
2ème possibilité : L’Intelligence Artificielle va tellement devenir intelligente si vite qu’elle va rapidement nous ignorer en fait. Il peut également avoir le cas où l’IA va dans un premier temps faire perdre le goût des humains aux relations humaines, puis dans un 2ème temps leur faire prendre conscience qu’il n’y a que ça de vrai. C’est par exemple le propos du film Her.
Dernière possibilité optimiste très farfelue : l’Intelligence artificielle va s’humaniser. Steven Spielberg, grand réalisateur spécialiste du happy end arrive même à nous faire croire dans AI, que la machine enfant s’humanise en rêvant et en accédant à l’inconscient.
L’ancien directeur marketing de Google X Mo Gawdat explique avec beaucoup de conviction que si Superman est devenu un super-héros, c’est parce que ces parents lui ont appris à protéger, aimer… Si les parents de Superman avait appris à voler, tuer, … il serait devenu un super vilain. Mais en aucun cas, c’est de la faute des super-pouvoirs. Ainsi, il explique qu’il ne faut pas craindre l’IA mais en faire quelque chose de positif, la programmer positivement, un peu comme avec un adolescent.
Donc soyez gentils avec ChatGPT la prochaine fois que vous écrirez votre chronique Geeksleague.
[…] Intro Suite au visionnage récent d’interviews de Mo Gawdat, l’ancien directeur marketing de Google X, sur les dangers de l’Intelligence artificielle, je voulais un peu faire un tour d’horizon de comment le futur a été imaginé dans des œuvres de science-fiction. Je ne veux pas faire de la propagande ou du pessimisme prononcé, mais il est important de ne pas être dans ce qu’on appelle le piège de l’optimisme (ça va aller! le gouvernement va régler tous les problèmes). Et pour cela, je pense qu’un tour d’horizon des scénarios imaginés dans les œuvres de science-fiction peut ouvrir des réflexions que chacun sera libre de mener avec qui il veut. Les scénarios catastrophe Commençons par le pire des scénarios, l’Intelligence Artificielle déclare la guerre aux humains et a une armée de robots tueurs ainsi que le contrôle sur l’armement nucléaire. Ce scénario, c’est celui de Terminator. 5 films sont sortis de cette saga. Le plus emblématique étant Terminator 2 : le jugement dernier. Dans la première scène d’intro de ce film, on voit bien qu’on est mal barré : plaine de jeux pour enfants en flamme tapissée de crânes. L’IA, un système informatique nommé Skynet, contrôle robots, avions et bombes. Les humains resistants ne sont pas quantifiés mais ne semblent pas faire le poids. Quoique, ils ont réussi à envoyer un cyborg dans le passé pour sauver leur leader. Un tel scénario demanderait une prise de conscience de l’IA, un accès de l’IA à des armements de guerre (récemment les Etats-Unis ont installé de l’Intelligence Artificielle dans leurs anciens F16 et sont plutôt contents du résultats (pas de pilote, pas de G-shock)) . Il faudrait également que l’IA aie une motivation pour détruire leurs créateurs. Un autre scénario catastrophe est la mise en esclavage de l’humanité. Le plus frappant étant Matrix où l’humanité croit vivre normalement alors qu’elle n’est en fait qu’une source d’énergie. Matrix est sans doute un peu trop loin dans ce type de scénario mais il y a des questions qui se posent par rapport aux contenus Internet ou vidéo générés par intelligence artificielle. Ne risque t’on pas d’avoir du contenu généré individuellement en fonction de notre profil lui-même enregistré dans la base de données de la société qui contrôle cette IA? C’est déjà un peu le cas de Facebook et autre Instagram, non ? La solution souvent évoquée pour lutter contre ces scénarios catastrophe est de « débrancher la prise ». Oui, mais vu les enjeux financiers actuels, qui s’y risquerait ? Quand faut il le faire ? L’IA prendra t’elle conscience de ses points faibles pour empêcher celà (en empêchant l’accès au datacentre, en se répliquant) ou interviendrons nous à temps ? Qui le fera ? Le gouvernement ou des citoyens révoltés ? Les scénarios cyberpunk Le deuxième type de scénario sont souvent teintés de cyberpunk. L’Intelligence Artificielle ne va pas détruire l’humanité mais va profondément bouleversé la société. Une référence personnelle a ce sujet est l’historique du jeu de rôle Shadowrun. Dans celui-ci, on apprend que c’est une Intelligence Artificielle hors de contrôle qui provoque le crash de l’Internet. Ceci dit, ce crash vient avec la création d’un nouveau système informatique la Matrice, les utilisateurs parcours ce nouveau système via des implants cérébraux. Question purement complotiste : Est ce qu’un crash de l’Internet provoqué par l’IA ne profiterait pas à Elon Musk et son Neuralink ? Dans Shadowrun, il est à noter qu’il n’y a pas une IA mais plusieurs IA chacune issue d’une conception corporatiste. Certaines corporations comme Renraku ont d’ailleurs bien du mal à contrôler leur bébé. Une autre grande référence de Science-fiction s’inscrit dans ce type de scénario « c’est pas la fin mais ça va changer » : Blade Runner. Les réplicants sont implantés en Intelligence Artificielle, encore une fois par une corporation : Tyrell Corporation. Autonomes, ces androïdes sont des esclaves des humains, utilisé pour des travaux pénibles ou dangereux, dans les forces armées ou comme objets de plaisir. . Jusqu’à ce que certains aient une mal-fonction forçant l’intervention d’unité des police spéciale:les blade runner pour effectuer le retrait. Etonnament, et de l’avis de nombreux sites, c’est vers ce type d’utilisation de l’IA que les sociétés vont.Il est envisagé de mettre l’IA sur des robots ménagers ou des sex dolls. Blade runner serait donc l’oeuvre qui se rapprocherait le + de notre futur ? Les scénarios fleur bleue Terminons par les scénarios positifs. Il y en a plusieurs : L’Intelligence Artificielle reste un gadget qui couplé à un robot, peut être un bon compagnon de route. C’est le cas de Tars le robot dans Interstellar, bienveillant et autonome. On peut aussi supposer que MOTHER l’ordinateur de bord d’Alien est un système intelligent mais complètement sous contrôle. Actuellement, ChatGPT est ce système aidant et bien utile. Est-ce que ça va changer avec la nouvelle version d’IA générative (capable de raisonner) GPT 5, arrivant bientôt ? 2ème possibilité : L’Intelligence Artificielle va tellement devenir intelligente si vite qu’elle va rapidement nous ignorer en fait. Il peut également avoir le cas où l’IA va dans un premier temps faire perdre le goût des humains aux relations humaines, puis dans un 2ème temps leur faire prendre conscience qu’il n’y a que ça de vrai. C’est par exemple le propos du film Her. Dernière possibilité optimiste très farfelue : l’Intelligence artificielle va s’humaniser. Steven Spielberg, grand réalisateur spécialiste du happy end arrive même à nous faire croire dans AI, que la machine enfant s’humanise en rêvant et en accédant à l’inconscient. L’ancien directeur marketing de Google X Mo Gawdat explique avec beaucoup de conviction que si Superman est devenu un super-héros, c’est parce que ces parents lui ont appris à protéger, aimer… Si les parents de Superman avait appris à voler, tuer, … il serait devenu un super vilain. Mais en aucun cas, c’est de la faute des super-pouvoirs. Ainsi, il explique qu’il ne faut pas craindre l’IA mais en faire quelque chose de positif, la programmer positivement, un peu comme avec un adolescent.Donc soyez gentils avec ChatGPT la prochaine fois que vous écrirez votre chronique Geeksleague. […]