Les IA
« La science-fiction a-t-elle inventé ChatGPT ? »
Je ne crois pas, et pourtant ChatGPT et ses multiples déclinaisons sont là.
ChatGPT déclare : "Je suis un programme informatique, je n'ai pas conscience de moi-même. Il est important de noter que même si j'utilise le pronom 'je', je ne suis pas consciente de moi-même. Je n'ai pas d'émotions ou de pensées comme le ferait un être humain."
Effectivement, ChatGPT ne peut pas penser. La conscience est quelque chose de complètement différent de l'IA d'aujourd'hui. Les progrès sur la conscience viendront probablement lorsque nous comprendrons mieux le fonctionnement du cerveau humain. (1)
Les grands modèles de langage tels que GPT-3, BERT ou Gemini sont basés sur des réseaux de neurones qui apprennent des associations statistiques dans les données, et ils n'ont pas de conscience ou de compréhension au sens humain du terme. Certains considèrent que ces modèles représentent une forme d'intelligence limitée, tandis que d'autres les considèrent comme des outils sophistiqués pour le traitement du langage naturel sans une véritable compréhension consciente.
Certains scientifiques suggèrent que notre perspective sur l'IA devrait évoluer. Ils soulignent notamment que l'IA pourrait être un moyen d'amplifier notre intelligence collective, plutôt que de simplement imiter l'intelligence humaine.
En attendant, OpenAI travaille vers une IA dite « générale » (IAG ou AGI en anglais), aux capacités cognitives qui seraient similaires à celles des humains. (2)
Mais qu'importe si ces systèmes ont conscience de soi ou non, leur objectif pourrait devenir la destruction de l'humanité. Le réalisateur James Cameron redoute en particulier la militarisation de l'IA :
"Je pense que nous allons reproduire avec l'IA ce que nous avons fait lors de la course aux armements nucléaires. Si nous ne travaillons pas là-dessus, d'autres vont le faire à notre place et ça va s'intensifier. Une IA pourra combattre d'autres ordinateurs, mais à une telle vitesse que les humains ne pourront jamais intervenir. On n'aura aucune manière de désamorcer cette situation. Quand on est face à une potentielle course à l'armement nucléaire, pouvoir désamorcer est primordial, mais les IA ne le feront jamais."
L'émergence des sentiments mécaniques
Alors que les médias s'emparent de ce sujet en convoquant des références de la science-fiction, notamment des films de la culture populaire SF ("Ex machina", "Transcendance", "After Yang") , il est pertinent de se demander ce que l'on peut dire de nouveau et de plus pointu sur cette thématique.
Le roman d'anticipation "Esther" d'Olivier Bruneau offre une exploration habile des thématiques de l'IA incorporée dans un androïde, bien que parfois sans grande originalité, en raison du précédent établi par des œuvres comme "Real Humans" qui ont déjà creusé profondément la dimension psycho-sociale des interactions entre hommes et androïdes. Cependant, des œuvres plus subtiles, comme celle d'Ishiguro avec "Klara et le soleil", nous livrent une réflexion profonde sur l'avènement de la singularité des IA. Ces œuvres nous offrent des perspectives plus nuancées et potentiellement plus proches de la réalité que les scénarios catastrophes et grand-spectaculaires de films tels que "Terminator". Elles nous incitent à réfléchir aux enjeux et nous permettent d'explorer les implications de l'IA et de la singularité d'une manière qui va au-delà des simples projections technologiques : elles représentent le terrain d'expérimentation où les aspects sociaux, éthiques et psychologiques de l'évolution de l'IA peuvent être mis en lumière. Lorsque la technologie s'insère dans l'intimité des personnes, c’est là que la science-fiction se fait le creuset du futur !
La course à l'IAG se conclura dans un parc d'attractions
Dans cette course pour gravir l'échelle de l'évolution, grâce à ses capacités d'apprentissage illimitée, une IA pourrait utiliser notre monde comme échiquier et nous mettre échec et mat : "Westworld" est une série fascinante qui questionne la nature de la conscience et les limites de l’intelligence artificielle.
Dans ce parc d’attractions futuriste peuplé de robots à l’apparence humaine, les visiteurs peuvent vivre leurs fantasmes les plus fous sans aucune conséquence. Chaque personnage a un but et des intérêts différents, de Dolores, en passant par Ford, le créateur de ce monde et des robots, jusqu’à l’Homme En Noir, véritable personnage mystérieux et mystique de Westworld. Personnages qui ont chacun leur utilité et place, avec la promesse d’une évolution inattendue et surprenante, notamment pour le « robot » Dolores, campée par Evan Rachel Wood. Mais que se passe-t-il lorsque quelques robots commencent à prendre conscience de leur existence ? La recherche de la liberté dans le monde réel des humains ? Une nouvelle guerre mondiale conduisant à la fin de l'humanité ? Ou la réécriture du destin de l'humanité par l'IA ? (3)
"Le danger de l'IA consiste à déclencher des choses que l'on n'avait pas anticipé." James Cameron
L'IA, avec ses grands modèles de langage, présente des opportunités et des défis. Il est crucial que nous réfléchissions attentivement à l'utilisation de cette technologie émergente et que nous agissions de manière responsable pour en exploiter tout le potentiel tout en minimisant les risques inhérents. La frontière entre la science-fiction et la réalité s'estompe de plus en plus, et l'avenir de l'IA pourrait façonner significativement notre monde.
Nous sommes en train de vivre l'avènement des outils de connaissance universelle, et la perspective de la singularité menace l'humanité telle une épée de Damoclès. La singularité technologique, qui représente le point où l'intelligence artificielle pourrait dépasser celle de l'homme et devenir capable de s'améliorer elle-même, soulève des questions cruciales sur le futur de l'humanité.
Plutôt que de considérer ces récits de science-fiction comme de simples divertissements, il est important de les voir comme des miroirs qui nous renvoient une image de ce que notre futur pourrait être. En prenant en compte les avertissements et les idées éclairantes de ces œuvres, nous pourrons mieux nous préparer à faire face aux défis que l'IA et la singularité pourraient poser.
En somme, la science-fiction continue d'être une source d'inspiration pour les débats éthiques et sociétaux concernant l'IA, car elle explore des scénarios extrêmes qui nous obligent à réfléchir profondément sur notre propre humanité et notre place dans un monde où les frontières entre l'homme et la machine deviennent de plus en plus floues.
Sources :
(1) In :
Steven de Simseo
Il y a eu un choc dans le monde entier face au rythme rapide des progrès de ChatGPT et d’autres intelligences artificielles créées avec ce que l’on appelle les grands modèles de langage (LLM).
(2) In :
Morgane Olès
(3) In :
Ytterbium
À Westworld, un parc d'attractions dernier cri, les visiteurs paient des fortunes pour revivre le frisson de la conquête de l'Ouest. Dolores, Teddy et bien d'autres sont des androïdes à apparence humaine créés pour donner l'illusion et offrir du dépaysement aux clients.
Points de vue :
Les machines sont encore loin de posséder une conscience et les hommes de devenir des cyborgs.
Point de vue
Point de vue
« Le problème de la course à l’IAG est qu’il y a de fortes probabilités qu’elle puisse aboutir à des versions de mauvaise qualité, ne tenant pas suffisamment compte du bien-être humain par exemple ». Valisoa Rasolofo & J. Paiano
Lien vers le fil des actualités du site