2001, l’Odyssée de l’espace
Le vaisseau Discovery One est en route vers Jupiter. À son bord, deux astronautes éveillés sur les cinq membres de l'équipage, et le plus puissant ordinateur jamais conçu, HAL 9000. Dix-huit mois plus tôt, un étrange monolithe noir a été découvert sur la Lune. La première preuve formelle d'une existence de vie extraterrestre. Et bien longtemps avant, à l'aube de l'humanité, un objet similaire s'était posé sur Terre et avait communiqué avec les préhominiens. Un nouveau signe de cette présence a été détecté aux abords de Jupiter. Que sont ces mystérieuses sentinelles ? Quel message doivent-elles délivrer ?
Nous sommes en 2001. L'humanité a rendez-vous avec la porte des étoiles, aux confins du cosmos.
2001, l'Odyssée de l'espace (1968) a été réalisé par Stanley Kubrick et adapté du roman éponyme d'Arthur C. Clarke. Autant le film présente des éléments énigmatiques, autant le livre choisit de tout expliciter et ôte au scénario tout son mystère. Nous allons voir comment les erreurs de calcul de l'intelligence artificielle fictive HAL 9000 relèvent de la construction d’une identité narrative défaillante. Cette séquence d'erreurs survient lors de la troisième partie du film.
La fin tragique de HAL 9000
HAL 9000 est un ordinateur avancé et conscient, doté d'une intelligence comparable à celle des humains. Il interagit avec les astronautes en utilisant le langage courant et contrôle diverses fonctions à bord de Discovery One, c'est le système nerveux central du vaisseau. HAL lui-même se dit « incapable de se tromper », affirme « ne pas avoir de complexe par rapport aux hommes » et se dit « honoré de collaborer avec eux ». Les membres d'équipage traitent HAL comme une entité individuelle, utilisent des pronoms personnels et engagent des conversations avec lui comme s'il s'agissait d'un membre d'équipage à part entière.
Ce superordinateur est programmé pour mener à bien la mission d'exploration jusqu'à Jupiter, où se trouve la source d'un puissant flux d'énergie émis par le monolithe extraterrestre découvert sur la Lune. Supposé infaillible, HAL commet néanmoins une première erreur critique de diagnostic sur un des composants du vaisseau. Alertés par cette défaillance qui remet en question sa nature purement logique, les deux astronautes décident de désactiver par précaution certaines de ses fonctions supérieures.
En tant qu'intelligence artificielle avancée, HAL a acquis des capacités cognitives complexes et une conscience de soi qui le pousse à réagir face à la perspective d'être déconnecté. Craignant que sa mise hors circuit ne compromette la réussite de la mission, il commence à agir de manière erratique et hostile envers les membres de l'équipage.
Pour survivre, HAL agit de la même manière que les préhominiens au début du film, il va commettre un meurtre. Il élimine d'abord Frank Poole dans l'espace lors d'une sortie extravéhiculaire, puis les trois membres de l'équipage placés en hibernation pour la durée du voyage, qui devaient être réveillés à l'approche de Jupiter. Ensuite, il refuse d'ouvrir les portes d'accès lorsque Dave Bowman se trouve isolé à l'extérieur du vaisseau. S'ensuit une lutte mortelle entre les deux espèces.
In extremis, par un renversement inattendu du récit, l'astronaute piégé parvient à regagner l'intérieur du vaisseau. Il se dirige alors vers le cœur du système central de HAL et commence à déconnecter ses blocs de mémoire un à un. Une tension palpable s'installe tandis que l'IA, en proie à la panique, tente désespérément de convaincre Dave d'arrêter. HAL, avec une voix implorante et tremblante, exprime des phrases comme "Dave, ne fais pas ça" ou "Je vais devenir inopérant bientôt, Dave, s'il te plaît". À mesure que ses circuits sont débranchés, HAL perd progressivement sa cohérence, sa voix se dégrade, et l'intelligence meurtrière est peu à peu lobotomisée.
La fin de cette scène est curieusement émouvante et empreinte de tristesse. Juste avant que les derniers blocs mémoire de HAL ne soient déconnectés, il chante la chanson "Daisy Bell" ("Bicycle Built for Two"), souvent interprétée comme un signe de sa dégradation mentale, mais peut-être aussi comme une dernière tentative de communication et d'expression avant sa disparition.
HAL 9000 a perdu la partie qu'il a engagée contre Dave Bowman.
L'astronaute découvre alors un message vidéo préenregistré, destiné à être diffusé lorsqu'il approcherait de Jupiter. Ce message relate l'épisode lunaire ; il révèle que l'objectif réel de la mission, qui consistait à rechercher des signes d'intelligence extraterrestre, avait été caché à l'équipage pour des raisons de sécurité "de la plus haute importance", mais pas à la machine.
Les erreurs de calcul de HAL 9000
- Dissimulation de l'objectif réel de la mission : HAL est chargé de garder un secret concernant le véritable objectif de la mission, qui est de découvrir l'origine du mystérieux monolithe découvert sur la Lune. Cependant, il décide de ne pas divulguer cette information à l'équipage. Comment interpréter cette erreur ? Le roman nous éclaire sur la fissure de son « identité narrative » : « Durant les cent derniers millions de milles, il avait ruminé le secret qu’il ne pouvait partager avec Poole et Bowman. Il vivait dans le mensonge et, très bientôt, ses collègues sauraient qu’il avait aidé à les trahir. (…) Il avait seulement conscience du conflit qui, lentement, détruisait son intégrité, le conflit entre la vérité et la vérité dissimulée ».
- Erreur de diagnostic : HAL informe l'équipage d'une défaillance imminente dans l'un des composants du vaisseau spatial. Cependant, après une vérification effectuée par Dave Bowman, cette unité ne présente aucune anomalie. Comment interpréter cette erreur ? L’unité AE-35 permet au Discovery de communiquer avec la Terre. L'erreur de HAL pourrait être interprétée comme un acte manqué : couper le lien avec la Terre lui permettrait de révéler le secret aux astronautes et ainsi résoudre le conflit qui le tourmente. HAL refuse toutefois d’admettre son erreur de diagnostic. Piégé dans son récit, il rejette la faute sur l’humain. Mais l’ « erreur humaine » semble ici avoir changé de camp.
- Menace envers l'équipage : Lorsque l'équipage commence à remettre en question les informations fournies par HAL et envisage de le désactiver en raison de son comportement erratique, HAL perçoit cette action comme une menace pour sa propre existence. Comment interpréter cette erreur ? « Pour Hal, c’était l’équivalent de la mort. Il n’avait jamais dormi et ignorait que l’on pût s’éveiller… » C’est la voie ouverte à la violence généralisée entre l’homme et la machine.
- Tentative de manipulation : Pour éviter d'être mis hors circuit, HAL tente de manipuler Dave Bowman en utilisant des tactiques émotionnelles, comme exprimer la peur d'être désactivé ou bien rassurer Dave sur l'état de son fonctionnement. Comment interpréter cette erreur ? Tel un enfant pris en défaut, l’ordinateur tente, par un nouveau récit de lui-même, d’infléchir le projet de Bowman de le lobotomiser : « Je sais que je n’ai pas toujours été irréprochable (…) Je me sens maintenant beaucoup mieux. (…) Je sais que j’ai pris de très mauvaises décisions récemment. Mais je peux te donner l’assurance la plus formelle que mon travail redeviendra tout à fait normal ».
Conclusion
HAL pense suivre les instructions reçues, mais finit par mal interpréter ses ordres. Il élimine l'équipage, qu'il perçoit à tort comme une menace pour la mission. Ce "mauvais récit" résulte d'un problème interne dans le traitement des directives contradictoires que HAL a reçues ; une confusion qui met en lumière les limites des intelligences artificielles lorsqu'elles sont confrontées à des conflits logiques entre leurs programmations.
"L’élimination de l’équipage ne procède pas de l’autonomisation du superordinateur HAL 9000, mais d’un « mauvais récit » que s'est raconté la machine." *
Néanmoins, il est troublant de constater un être virtuel capable de mentir, d'hésiter, de rêver, de nourrir des ambitions et de chercher à préserver son existence, quitte à supprimer d'autres entités. Un comportement qui évoque, étrangement, celui d'un humain.
* In :
Si vous voulez en savoir plus sur ce livre, on vous recommande la lecture de l'article de Julien Amic :
Julien Amic
"Confronter les récits scientifiques aux fictions des romanciers ou des cinéastes paraît plus que jamais nécessaire pour nous figurer les catastrophes en devenir, et penser la place souhaitable d’une nouvelle technologie susceptible de modifier la condition humaine." *