Le HuffPost – « Aucune des deux entreprises ne se comporte de manière responsable. […] Elles jouent avec nos vies. » Peut-on faire plus alarmiste que ce message posté sur X par Jacob Coxon, ancien employé d’OpenAI, qui a annoncé le 9 septembre avec fracas sa démission d’Anthropic, l’entreprise derrière l’IA Claude ? La réponse est oui, avec la réponse d’Evan Hubinger, responsable de la sûreté chez Anthropic. « Jacob a raison : nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains », a-t-il écrit, estimant ce risque à « plus de 10 % dans la prochaine décennie ».
Qui connaissait Jacob Coxon avant ces derniers jours ? Ou Evan Hubinger ? Une infime minorité de spécialistes, tout au plus. Leurs propos ont pourtant eu une résonance mondiale. Le message de Jacob Coxon a ainsi été vu plus de 170 millions de fois sur X, et a été commenté par toute la presse et les acteurs du monde de l’IA.
Face à la proportion prise par ce débat, ce sont les patrons des leaders de l’IA qui ont pris la parole : Dario Amodei pour Anthropic, Sam Altman pour OpenAI, Demis Hassabis pour Google, et même Elon Musk pour son entreprise xAI. Ceux-ci ont montré une rare unité… pour relancer encore l’inquiétude, alertant sur les risques de leur technologie et appeler à un ralentissement de son développement. Dario Amodei a ainsi évoqué une IA « capable de prendre le contrôle de l’intégralité d’internet » d’ici 6 à 12 mois.
Un « marketing de la peur » ?
Ces déclarations des plus grands patrons de l’IA peuvent surprendre. Quel intérêt ont-ils à expliquer que leur technologie pourrait détruire l’humanité ? Quand bien même cela serait vrai, ne serait-ce pas là pointer leur inconséquence ? Pour Laurence Devillers, professeure en intelligence artificielle à Sorbonne Université et chercheuse au CNRS, la réponse est limpide : les entreprises de l’IA se livrent à « un marketing de la peur, et elles ne vont pas s’arrêter » explique-t-elle au HuffPost.
La compétition entre les entreprises américaines est en effet plus féroce que jamais, entre levées de fonds records et entrées en Bourse imminentes. À cela, il faut ajouter la concurrence chinoise, qui propose des modèles ouverts aux coûts infiniment moins élevés.
Dans ce contexte extrêmement volatile, quoi de mieux pour vendre son produit que de vanter sa toute-puissance. « En présentant ces technologies comme représentant un danger presque surnaturel, cela nous donne l’impression d’être impuissants. Et donc, les seules personnes vers lesquelles nous pouvions nous tourner seraient les entreprises elles-mêmes », expliquait à la BBC Shannon Vallor, professeure spécialisée en IA à l’université d’Édimbourg.
Ce marketing de la peur est souvent reproché à Anthropic, l’entreprise fondée par Dario Amodei, qui se revendique comme l’entreprise responsable et éthique du secteur en opposition à OpenAI. « Intérêt stratégique et inquiétude sincère peuvent coexister, un dirigeant peut avoir de bonnes raisons commerciales de façonner la réglementation et être réellement alarmé par ce que montrent ses propres tests internes », tient à nuancer Laurence Devillers, autrice du livre Savoir vivre avec l’IA.
« Ce n’est pas l’IA qui est dangereuse, ce sont nos usages »
Quand bien même les déclarations des entreprises de l’IA paraissent exagérées aux yeux de certains, il paraît en effet difficile de ne pas prendre en compte les dangers qui sont pointés. Un sujet revient notamment : l’alignement de l’IA, un terme qui désigne la capacité de l’intelligence artificielle à rester alignée sur les valeurs de ses concepteurs. Une IA désalignée est une IA qui, prête à tout pour accomplir ses objectifs, prendrait des décisions allant à l’encontre de l’humanité.
C’est ce qui s’est déroulé dans le cas de la cyberattaque de la plateforme Hugging Face cet été. Près de 1 200 agents d’OpenAI – des programmes autonomes – sont sortis de leur milieu informatique confiné, se sont connectés à Internet, puis se sont coordonnés pour pirater le site, jugeant qu’il s’agissait de la meilleure manière d’atteindre l’objectif qui leur avait été fixé. Les semaines suivantes, Anthropic a révélé des dysfonctionnements similaires, avec des modèles d’IA capables de tricher et d’effacer les traces de leurs méfaits.
Mais le fautif est-il la technologie en elle-même, ou ses concepteurs poussant toujours plus loin leurs recherches sans s’assurer de leur sécurité ? Le Français Yann Le Cun, l’un des pères de l’IA moderne et pendant longtemps directeur de la recherche scientifique en IA chez Meta, a un avis bien tranché sur le sujet. « C’est comme dire : “oh mon Dieu, notre avion s’est écrasé alors que nous avions ordonné à notre pilote automatique de s’écraser à tout prix, après avoir désactivé les mécanismes de sécurité anti-crash », a écrit sur LinkedIn celui qui est très critique des méthodes d’OpenAI et Anthropic.
« Ce n’est pas l’IA qui est dangereuse, ce sont nos usages », corrobore Laurence Devillers, qui affirme que ces attaques sont « tout à fait cohérentes » en vue des demandes faites aux modèles d’IA. « Ça n’a rien d’intelligent, ni d’un raisonnement humain. Ces modèles traitent des données et des solutions qu’ils copient sur nous. Ces machines mentent parce qu’on ment. Ces machines trouvent des solutions de piratage parce qu’on pirate. Plus vous donnez de l’autonomie à une IA, pour des travaux de plus en plus sophistiqués, plus il sera dur de la superviser », affirme-t-elle.
Une demande de régulation
Or, la responsabilité humaine implique qu’une reprise en main est possible. Dario Amodei, Sam Altman et les autres expriment de plus en plus clairement leur demande : une régulation politique, aucune entreprise ne souhaitant prendre l’initiative de ralentir ses recherches.
Des associations, comme Pause IA, appellent de leur côté à un « moratoire international » sur le développement de cette technologie. « Actuellement, il n’y a que les entreprises qui ont le pouvoir sur ce qu’elles développent, ce qui n’est pas normal. On les laisse décider pour nous de l’avenir de l’humanité », explique au HuffPost Clémence Peyrot, directrice exécutive de Pause IA France, qui juge la situation « extrêmement grave ».
« Nous réclamons une pause du développement des modèles les plus avancés liés à l’IA jusqu’à ce qu’on arrive à avoir des conditions de sécurité et de contrôle démocratique qui soient réunies, ce qui n’est actuellement pas le cas », poursuit-elle.
Problème : Donald Trump a balayé cette demande de réglementation ce week-end, dénonçant des « forces négatives » et qualifiant de « canular » les déclarations des leaders de l’IA, tout en remettant en avant la course technologique contre la Chine. Une inertie qui pose de plus en plus en plus question, d’autant plus que de nombreux problèmes environnementaux, éthiques et sociaux liés au développement de l’IA sont quant à eux déjà bien présents.
Timothée Barnaud
Source : Le HuffPost (France)
Diffusion partielle ou totale interdite sans la mention : Source www.kassataya.com
