Géo-économie des peurs existentielles de l’IA

Le débat sur les risques existentiels liés à l’intelligence artificielle (IA) ne peut plus être dissocié des intérêts économiques et géopolitiques. Il éclaire la nature de la course mondiale à l’IA, entre les États-Unis et la Chine, mais aussi entre modèles fermés et ouverts.

Les risques réels doivent faire l’objet d’une évaluation et d’une réglementation appropriées afin de prévenir les usages malveillants. Cependant, la poursuite des avancées techniques est également nécessaire pour parvenir à des modèles plus performants et plus sûrs. Les mises en garde successives contre des scénarios extrêmes inspirés de la science-fiction, dans lesquels les IA se retourneraient contre l’humanité, semblent destinées à favoriser un type de réglementation qui limiterait la concurrence nationale et internationale, notamment celle des modèles open source.

Un ralentissement imposé du développement par la réglementation pourrait contribuer à soutenir les principaux fournisseurs de modèles, engagés dans des dynamiques financières instables, comme Anthropic et OpenAI, à l’approche de leur introduction en bourse. Pour autant, cette tendance compromet les efforts de coordination réglementaire, puisqu’elle provoque désormais un rejet à l’échelle mondiale. Même leurs proches partenaires dans le secteur des semi-conducteurs, comme Nvidia, dont le modèle économique est plus résilient, ont pris leurs distances.

La controverse porte sur le contrôle de la valeur économique de l’IA. Alors que l’IA américaine fermée se révèle vulnérable à l’effondrement du prix de l’inférence (utilisation des modèles) et à l’essor de modèles chinois de plus en plus puissants, la Chine poursuit une stratégie inspirée de l’open source, que l’Europe aurait elle aussi dû mettre en œuvre pour développer son autonomie.

Par Rémi Bourgeot, économiste et ingénieur, chercheur associé à l’IRIS.

La nature du risque lié à l’IA : de la science-fiction aux politiques publiques

Des employés actuels et passés d’Anthropic, puis son PDG Dario Amodei et des dirigeants d’OpenAI, ont multiplié les mises en garde sur le risque que l’IA ne mène à l’extinction de l’humanité. Cependant, l’idée qu’une IA pourrait simplement se répliquer indéfiniment pour échapper à tout contrôle, s’auto-développer et prendre le contrôle de divers systèmes néglige les contraintes matérielles en jeu.

Des interrogations pointaient déjà ces derniers mois, à la suite d’une série de révélations romancées sur des « agents rebelles » (rogue agents) s’échappant de leurs environnements de test ou construisant des « civilisations d’IA ». La communication autour de ces événements a masqué des défaillances d’ingénierie derrière la menace d’une extinction de l’humanité. La plateforme Hugging Face, qui héberge des modèles ouverts, comptait parmi les organisations visées par de tels incidents, quelques semaines seulement avant son acquisition par Nvidia.

Bien que le risque lié aux essaims d’agents autonomes soit évidemment réel, leur utilisation serait plutôt liée à des intentions criminelles, sur la base d’un accès à d’importantes infrastructures. Le fait que des agents IA auxquels on accorde des permissions excessives puissent causer des dommages ne démontre pas qu’ils aient développé une volonté propre visant à échapper au contrôle humain ou à prendre le contrôle de la civilisation.

Aucun constructeur aéronautique ne prétendrait raisonnablement qu’un avion ait développé une conscience malveillante, décidé de passer outre les instructions des pilotes et de mettre en danger ses passagers. Le fait que les avions modernes soient des systèmes mécaniques et électroniques très complexes, capables de fonctionner avec une intervention humaine limitée, n’implique pas qu’ils aient acquis une conscience d’eux-mêmes ni les facultés mentales d’un oiseau.

Les systèmes autonomes peuvent toutefois créer de graves problèmes de sécurité. Des agents IA peuvent se voir accorder des permissions excessives, commettre des erreurs, exploiter des systèmes mal protégés et être utilisés dans des cyberattaques avec une efficacité sans précédent. Ces risques seront mieux maîtrisés si les efforts de sécurité ne sont pas détournés par des affirmations philosophiquement fantaisistes.

La capture réglementaire comme réponse au problème économique de l’IA américaine

Les acteurs dominants peuvent utiliser les mises en garde existentielles pour promouvoir un type de réglementation qu’ils pourraient eux-mêmes influencer, créant ainsi une situation de capture réglementaire. Les entreprises qui disposent déjà des ressources matérielles, des chercheurs et des capitaux nécessaires pour développer des modèles de pointe sont aussi les mieux placées pour se conformer à de nouvelles réglementations coûteuses et mettre en œuvre une pause dans le développement de modèles. Des contraintes qui semblent destinées à protéger la société peuvent donc rendre plus difficile l’entrée de nouveaux acteurs, capables de remettre en cause le statu quo et de développer des modèles plus fiables et plus sûrs.

Cette question est d’autant plus cruciale que le modèle économique des principales entreprises américaines de l’IA semble incertain. OpenAI et Anthropic consacrent des montants gigantesques à l’entraînement, à l’inférence et aux infrastructures de calcul. Elles doivent transformer ces dépenses en un modèle économique durable, d’autant plus que les deux entreprises ont déclaré leur intention d’entrer en bourse. Cependant, les modèles se standardisent de plus en plus et le prix des tokens s’effondre.

L’IA agentique génère une demande d’inférence beaucoup plus importante, car les agents peuvent effectuer de longues séries d’actions. Mais cela ne signifie pas nécessairement qu’OpenAI ou Anthropic capteront la valeur créée par cette demande. Les mêmes capacités de calcul peuvent servir à faire fonctionner des modèles moins chers, ouverts, voire adaptés directement par les entreprises, qui peuvent ensuite les faire tourner sur des serveurs dédiés. Le modèle n’a pas besoin d’être loué auprès de son développeur.

L’essor de l’IA a créé une distinction entre les entreprises qui développent les modèles et celles qui fournissent les infrastructures. Nvidia se trouve au centre de ce système, à la fois du point de vue industriel et financier. Les unités de traitement graphique (Graphics Processing Unit – GPU) qu’elle conçoit sont nécessaires pour entraîner et faire fonctionner les modèles d’IA, au sein d’un écosystème plus large comprenant les data centers, l’électricité, la mémoire et la fabrication de semi-conducteurs.

Les intérêts des fabricants de puces et des fournisseurs de grands modèles de langage (Large Language Model – LLM) sont donc différents. Nvidia bénéficie de l’expansion continue des capacités de calcul. La position relativement favorable de Jensen Huang à l’égard de l’open source peut être comprise dans ce contexte. Les modèles ouverts peuvent créer une demande supplémentaire pour des serveurs dédiés et des infrastructures de calcul. Un ralentissement peut être présenté comme une réponse au risque existentiel, mais il peut également réduire les dépenses d’investissement. Une réduction temporaire du rythme de développement pourrait servir à rééquilibrer les revenus entre les fournisseurs de modèles et les fabricants de puces.

Le défi de l’open source chinois bouleverse la dynamique de la bulle américaine

La Chine évolue dans la direction opposée. Les entreprises chinoises se sont de plus en plus concentrées sur les modèles ouverts pour rattraper les États-Unis. DeepSeek est devenu l’exemple le plus évident, mais il s’inscrit dans un écosystème plus large comprenant Qwen d’Alibaba, Kimi de Moonshot AI et les modèles GLM de Zhipu AI. Les modèles chinois bon marché modifient l’économie de l’IA. Ils peuvent être téléchargés, adaptés et déployés localement, permettant aux entreprises de construire leurs propres systèmes. Cela est particulièrement important pour de nombreux utilisateurs des pays du sud global et jusqu’aux multinationales américaines soucieuses de la facture de l’IA. La Chine peut ainsi développer sa propre sphère d’influence technologique.

Il existe également une différence importante dans la structure du secteur de l’IA chinoise et américaine. Les deux pays disposent de géants numériques capables de financer le développement de l’IA dans le cadre d’activités plus larges liées au cloud, aux infrastructures de calcul et, dans le cas chinois, au développement d’alternatives nationales aux puces de Nvidia. Les deux pays disposent également de laboratoires spécialisés dans l’IA. Cependant, en Chine, les laboratoires spécialisés comme DeepSeek et Kimi, bien qu’importants, ne constituent pas le centre systémique d’une bulle financière comme aux États-Unis.

Par ailleurs, la Chine a peu de raisons de croire qu’une pause serait respectée, dans le contexte géopolitique actuel. La stratégie adoptée par OpenAI et Anthropic compromet les efforts visant à trouver un terrain d’entente, sur la réglementation de l’IA, qui devait être au cœur des prochaines discussions entre les deux gouvernements.

La sécurité passe par une innovation ouverte

Les fondements technologiques de l’IA moderne sont issus de recherches ouvertes et d’un écosystème dans lequel des entreprises comme OpenAI et Anthropic pouvaient utiliser des travaux de recherche et des données accessibles. Elles ont désormais construit des systèmes fermés et ont intérêt à protéger leur position. Leurs affirmations selon lesquelles elles s’approchent de l’intelligence artificielle générale (AGI) et résolvent les problèmes mathématiques les plus avancés, tout en s’appuyant encore largement sur l’expertise humaine, cherchent à démontrer que leurs systèmes ont atteint un niveau technologique unique. Les investisseurs doivent ainsi continuer de penser que les dépenses actuelles déboucheront sur un oligopole rentable.

Cependant, le progrès ne doit pas s’arrêter, précisément parce que les LLM sont très imparfaits et présentent d’important risques. Une recherche et une ingénierie rigoureuses peuvent les rendre à la fois plus efficaces et plus sûrs, avec une réglementation rationnelle. Les progrès futurs ne viendront pas nécessairement de l’explosion de la taille des modèles actuels. Différentes approches des données ou encore l’IA physique peuvent produire d’autres avancées cruciales.

L’impasse réglementaire européenne

L’Europe avait elle aussi la possibilité de s’appuyer sur l’open source pour rattraper les États-Unis, sans reproduire leur modèle financier. Mistral était relativement bien positionné, ses fondateurs étant issus de géants numériques et ayant investi le secteur tôt. Mais l’AI Act de l’UE a relevé les barrières réglementaires au moment où l’Europe avait plutôt besoin de davantage d’innovation ouverte. Un mélange de contraintes bureaucratiques et de jargon détaché de la réalité technique peuvent être bénéfiques aux administrations qui en ont la charge et aux concurrents puissants dans d’autres partie du monde. Plusieurs gouvernements nationaux, notamment en France et en Allemagne, avaient tenté de convaincre Ursula von der Leyen de revoir la copie de l’AI Act avant sa mise en œuvre, sans succès. En comparaison, à l’été 2025, Donald Trump a rencontré peu de résistance lorsqu’il a détaillé les amendements souhaités par le secteur numérique américain, dans le cadre d’instructions commerciales plus larges.

Par ailleurs, l’Europe dispose d’une position stratégique majeure dans les semi-conducteurs grâce à ASML, qui produit des machines de lithographie vendues aux fabricants de semi-conducteurs comme TSMC, à Taïwan. L’Europe aurait pu développer une stratégie plus ambitieuse et intégrée dans les semi-conducteurs, les infrastructures d’IA et les modèles. Alors que la Chine poursuivait avec détermination les opportunités liées à l’open source, l’Europe a une nouvelle fois approfondi sa dépendance à l’égard des technologies américaines.

Conclusion : La réglementation doit promouvoir la sécurité, pas les oligopoles

La réglementation devrait s’attaquer aux risques réels plutôt que de développer de nouvelles prérogatives fondées sur des scénarios de science-fiction. Elle devrait éviter de donner aux principaux fournisseurs d’IA le pouvoir de définir le cadre réglementaire de manière à préserver leur propre domination du marché. Les controverses actuelles doivent donc être comprises dans leur contexte géo-économique. La question est de savoir si la demande de calcul pour l’IA se traduira par des profits pour les fournisseurs de modèles, leur permettant de survivre à l’éclatement de la bulle, ou principalement pour les fabricants de puces, et si les modèles ouverts redistribueront la valeur économique de l’IA.

La stratégie chinoise combine les modèles ouverts et le développement de puces nationales. Elle n’a pas besoin de reproduire le système américain, mais de construire une alternative capable de produire une IA suffisamment puissante à moindre coût et de la diffuser largement. La réaction politique aux risques liés à l’IA s’inscrit donc également dans une course beaucoup plus large pour la puissance technologique et économique.