Vers un nouvel âge d'or ?
« Avec l'aide de l'IA vont être amplifiées l'intelligence et la créativité de tout un chacun. Cela peut conduire à un nouveau siècle des Lumières ». Yan LeCun
Futura avec ETX Daily Up
Aujourd'hui, l'« IA générative » ou « GenAI » s'intègre de manière omniprésente dans notre quotidien. Au lieu de devoir se connecter à une plateforme dédiée sur un ordinateur ou un téléphone, nous pourrons converser avec nos voitures, nos téléphones et nos appareils électroménagers et obtenir des réponses naturelles. Plusieurs entreprises travaillent sur ce sujet : Apple avec Apple Intelligence, Google avec Google IA, Amazon avec Alexa, etc. Les systèmes de recommandation, alimentés par l'IA, nous suggèrent déjà des produits, des films et de la musique en se basant sur nos préférences et nos comportements passés. Les voitures autonomes, quant à elles, reposent sur une combinaison de capteurs sophistiqués et d'algorithmes d'IA, avec l'ambition de rendre nos routes plus sûres et d'améliorer l'efficacité des transports. En outre, l'IA joue un rôle de plus en plus important dans des domaines tels que la médecine, où elle aide à diagnostiquer des maladies et à personnaliser les traitements, ou encore dans la finance, où elle optimise les investissements et détecte les fraudes (bâtiments ou piscines non déclarées par exemples).
Le développement de l'IA reflète une co-évolution : les humains conçoivent des programmes pour des tâches spécifiques, tandis que ces technologies modifient en retour les modes de travail, de prise de décision et d'interaction avec l'environnement. Cette transformation impacte des domaines clés : l'éducation (adaptation des compétences requises), l'économie (restructuration du marché du travail) et la culture (création de nouvelles formes d'art et de divertissement).
"OpenAI fait des programmes, c’est une « machination » pour extraire de nous du profit, du temps d’attention, des données…. Et l’on devient "fonctionnaire" d’OpenAI sitôt que l’on utilise ChatGPT. En ce sens, les artistes qui travaillent avec les IA pour leur faire faire autre chose que les usages calculés, prévus, vendus par OpenAI – comme Grégory Chatonsky – semblent intéressants. Ils nous encouragent aux détournements créatifs des usages de ces technologies." In :
Sophie Kloetzli
Un ami qui nous veux du bien.
« On interagira avec des assistants virtuels intelligents qui, à un certain moment auront une intelligence similaire à l'intelligence humaine, peut-être supérieure dans certains domaines et qui pourront nous aider dans nos vies de tous les jours. Ce serait comme avoir un meilleur ami, peut-être plus intelligent que vous, mais à votre service, tout le temps présent, qui vous aide dans votre vie de tous les jours et qui, par exemple, vous permet de vous concentrer sur les choses qui vous intéressent et ne pas avoir à passer une heure au téléphone pour parler à votre plombier ou à votre Sécurité sociale». Yan LeCun
Léa Salamé
"L’étape suivante consiste à faire en sorte que l’IA agisse comme une sorte d’agent en votre nom, en lui permettant de réserver des voyages, des séjours à l’hôtel, etc. Pour l’instant, la GenAI n’est pas très douée pour la planification. C’est ce sur quoi OpenAI ainsi que d’autres travaillent, afin d’obtenir une GenAI capable de décomposer un problème en étapes et de prendre des mesures en fonction de ces étapes. La question est de savoir quelle autorité vous donnerez à un agent pour qu’il agisse en votre nom. Il est probable que ces agents interagiront avec d’autres agents, ce qui donnera lieu à des discussions et à des négociations sans intervention humaine." In :
Andrew Rogoyski
Quel est le calendrier prévu pour ces avancées ?
"Je pense que ce que nous avons appris ces deux dernières années, c’est que les choses peuvent arriver très vite. Elles ne sont jamais aussi farfelues que nous l’imaginons – la science-fiction a la fâcheuse habitude de devenir une réalité scientifique. Je dirais même qu’une grande partie de la science-fiction est très proche de la réalité.
Nous devons maintenant commencer à réfléchir aux conséquences de tout cela. Quel est le rôle de l’humanité dans cet avenir ? À quoi ressemblent les économies si les humains sont exclus de l’équation ? À quoi ressemblent la vérité et la démocratie lorsque tout peut être truqué ? À quoi ressemblera l’éducation, fondement de notre qualité de vie moderne, dans l’avenir ? Ce sont de très grandes questions fondamentales auxquelles je pense que personne n’a la réponse à l’heure actuelle." Andrew Rogoyski
L'IA n’est pas simplement une innovation de plus sur la route du progrès.
"L'idée défendue par Michaël Garrett, c'est que l'émergence d'une superintelligence artificielle (ASI) coïncide, dans l'histoire d'une civilisation, avec une phase critique de son développement. Avec sa transition d'une espèce monoplanétaire à une espèce multiplanétaire. Or dans l'esprit, une ASI possède le potentiel d'améliorer ses capacités propres à une vitesse qui dépasse nos propres délais d'évolution sans IA. Résultat, la probabilité que quelque chose tourne mal devient énorme. Avec le risque d'entraîner la chute de la civilisation biologique avant qu'elle arrive à devenir multiplanétaire.
Le chercheur estime ainsi que la longévité typique d'une civilisation technologique pourrait être inférieure à 100 ans. Un rien à l'échelle du temps cosmique qui s'écoule sur des milliards d'années. Nous-mêmes, d'ailleurs, avons commencé à être en mesure d'envoyer des signaux vers les étoiles dans les années 1960 et l'émergence d'une superintelligence artificielle est envisagée d'ici 2040.
Il pourrait donc finalement n'exister, à un moment donné, qu'une poignée de civilisations extraterrestres intelligentes dans notre Univers tout entier. Des civilisations peu ou prou au même stade d'avancement technologique que la nôtre. Avec des activités qui les rendraient infiniment difficiles à détecter depuis notre Terre." In :
Nathalie Mayer
Des comptes à rebours proches de minuit.
La science-fiction envisage différents scénarios d'un avenir où l'intelligence artificielle pourrait assumer la gouvernance et la préservation de l'humanité. On pense notamment aux "Mentaux" dans le vaste Cycle de la Culture, de Iain M. Banks, où ces IA avancées gèrent des civilisations entières, et garantissent stabilité et prospérité à leurs habitants. Mais l'idée se retrouve aussi ailleurs. Dans Collisions par temps calme de Stéphane Beauverger, l'IA nommée Simri incarne une forme d'harmonie entre l'homme et la machine afin d'offrir une alternative à l'incapacité de l'humanité à résoudre ses propres problèmes.
« Tu te rends compte que, là-bas, l'humanité en est arrivée à concevoir l'hypothèse de son extinction sans réagir ? Que, pendant presque un siècle, leurs plus grands esprits ont popularisé une horloge de l'apocalypse symbolisant le décompte avant l'anéantissement définitif de l'humanité, sans qu'aucune mesure sérieuse ne soit prise ? — C'est difficile à imaginer. Il faudrait vraiment une somme écrasante d'égoïsmes ou d'intérêts concurrentiels pour que l'instinct de survie d'une espèce capable d'évaluer ses risques de disparition ne vienne pas corriger sa trajectoire de mort ». In: Collisions par temps calme - La Volte
L'horloge de l'apocalypse, créée en 1947 par le Bulletin of the Atomic Scientists (fondé par Albert Einstein et d'autres scientifiques ayant participé au projet Manhattan), symbolise la proximité d'une catastrophe mondiale. Chaque année, des experts actualisent l'heure en fonction de facteurs tels que la prolifération nucléaire, le changement climatique, les tensions géopolitiques, et d'autres menaces globales. En janvier 2023, l'horloge a été avancée à 23h58 et 30 secondes, reflétant les risques accrus, notamment dus aux menaces nucléaires et chimiques en lien avec la Russie.
Un nouvel indicateur, "l’AI Safety Clock", a été introduit par l'IMD (International Institute for Management Development) pour évaluer les risques d'une intelligence artificielle générale non contrôlée. Actuellement réglée à 23h31, cette horloge symbolise le risque potentiel d'un point de basculement où l'IA pourrait échapper au contrôle humain. L'IMD souligne l'importance d'une surveillance constante du développement rapide de l'IA et appelle à une vigilance accrue pour éviter des dommages potentiels.
Vers une militarisation de l'IA.
En définitive, qu'importe si ces systèmes ont conscience de soi ou non, leur objectif pourrait devenir la destruction la plus efficace possible de l'humanité.
"Je pense que nous allons reproduire avec l'IA ce que nous avons fait lors de la course aux armements nucléaires. Si nous ne travaillons pas là-dessus, d'autres vont le faire à notre place et ça va s'intensifier. Une IA pourra combattre d'autres ordinateurs, mais à une telle vitesse que les humains ne pourront jamais intervenir. On n'aura aucune manière de désamorcer cette situation. Quand on est face à une potentielle course à l'armement nucléaire, pouvoir désamorcer est primordial, mais les IA ne le feront jamais." James Cameron
"Nous ne voulons pas entrer dans un monde où nous devons nous battre à la vitesse d’une machine et où notre adversaire est une IA – il n’y aurait alors qu’un pas vers les mondes dystopiques des films Terminator de James Cameron ou de la série Matrix des sœurs Wachowski." Andrew Rogoyski
La nation américaine se construisant sans cesse par rapport à un Autre menaçant, elle aura trouvé avec l'IAG un formidable moteur.
Valisoa Rasolofo & J. Paiano
IA et science-fiction.
Les progrès technologiques se poursuivent sans cesse, et chaque nouvelle innovation accroît notre dépendance à ces outils de plus en plus avancés.
Un podcast avec Mathieu Serrurier, chercheur et grand amateur de SF et Ariel Kyrou, auteur, journaliste et essayiste. Ils sont tous deux invités par Marina LEONARD et Laurent Chicoineau :
Thomas FRANCESCHI
Dans ce podcast, l’équipe du Quai des Savoirs vous invite à rencontrer des scientifiques qui parlent de leurs recherches et de leurs enjeux pour la société d’aujourd’hui et de demain…
En 2015, le chercheur américain Andrew Ng, spécialiste de l’IA, déclarait que craindre une éventuelle révolte de l’IA revenait à « s’inquiéter de la surpopulation sur Mars », alors que « nous n’avons encore jamais mis les pieds sur la planète. »