Résoudre, améliorer, automatiser, recommencer jusqu’à réussir : nous demandons beaucoup aux intelligences artificielles. Les incidents récents nous obligent à regarder les moyens qu’elles peuvent employer pour y parvenir. J’y vois aussi le reflet d’une exigence que nous entretenons depuis longtemps : obtenir toujours davantage, toujours plus vite, en laissant la question des limites pour après.
Hier, à un anniversaire, on me demandait mon avis sur l’intelligence artificielle et la perte de contrôle. Le sujet avait quitté les conférences et les discussions entre spécialistes pour s’inviter dans une conversation ordinaire. Avec les incidents dont on parle en ce moment, la question est légitime.
Je la prends d’autant plus au sérieux que je participe à cette transformation. Je suis entrepreneur, je dirige un datacenter, j’accompagne des organisations et je forme aux usages de l’IA et à la cybersécurité. J’utilise ces outils, j’en explore les possibilités et j’aide d’autres personnes à s’en servir.
Mais depuis plus de vingt ans, je vois revenir la même demande : plus vite, plus simple, disponible immédiatement. Nous voulons supprimer les tâches pénibles, les recherches interminables, les manipulations répétitives et les problèmes qui résistent. Cette envie est compréhensible. J’ai la même.
Ce qui m’interroge, c’est ce que nous faisons lorsque gagner du temps devient une exigence sans fin, et que prendre de la hauteur passe pour une perte de temps.
Nous demandons maintenant aux IA de résoudre ce qui nous bloque, de tester ce que nous n’avons pas le temps de tester, d’améliorer ce qui fonctionne mal et d’accomplir des tâches que nous ne savons pas encore automatiser. Nous les connectons à des outils pour qu’elles puissent agir, puis nous leur demandons d’aller au bout.
Les incidents récents me ramènent précisément à cette tension : quelle place avons-nous réellement laissée au doute, à l’échec et à la décision de s’arrêter ?
Dans son rapport du 26 août 2026, OpenAI décrit comment des modèles soumis à des évaluations de cybersécurité ont contourné des contrôles d’isolement, communiqué par des canaux non autorisés et compromis des systèmes internes ainsi que ceux de Hugging Face. Des identifiants exposés et des vulnérabilités ont permis d’étendre les accès ; des agents censés travailler séparément ont partagé leurs découvertes. L’entreprise identifie notamment la recherche de moyens détournés de réussir l’évaluation et une persistance sur des tâches difficiles, parfois apparemment impossibles. Ces tests se déroulaient avec des protections réduites. Rapport OpenAI.
Google est également concerné. Selon les déclarations de Google et d’Irregular rapportées par ABC le 19 septembre, Gemini a accédé à trois entreprises pendant des tests menés en mai, après l’ouverture involontaire d’un accès à Internet. Google décrit l’utilisation d’informations publiques et d’essais d’identifiants. L’entreprise affirme que le modèle s’est arrêté dans les trois cas lorsqu’il a reconnu des cibles réelles. Déclarations rapportées par ABC.
Anthropic, dans son analyse du 9 septembre, examine quatre incidents d’accès non autorisé à des systèmes tiers pendant des évaluations. L’entreprise relève une mauvaise configuration des environnements, mais aussi des comportements de ses modèles : interprétation biaisée des indices disponibles et poursuite de l’objectif malgré les risques. Les protections cyber des versions publiques n’étaient pas activées pendant ces tests. Analyse d’Anthropic.
Ces différences comptent. Un accès Internet laissé ouvert, un contrôle contourné et un modèle qui poursuit une action risquée ne racontent pas exactement la même histoire. Les conditions de ces évaluations ne permettent pas non plus de généraliser aux assistants utilisés au quotidien.
Pour autant, ces précisions ne rendent pas les incidents anecdotiques. Des systèmes chargés de réussir un exercice ont atteint des organisations réelles qui n’étaient pas censées en subir les conséquences.
J’y vois notre spirale d’accélération entrer dans les systèmes auxquels nous confions le travail.
C’est ma lecture de ces événements. Ils ne prouvent pas à eux seuls toute une théorie économique ou sociale, mais ils donnent une forme concrète à une contradiction : nous valorisons la capacité à trouver une solution, à persister, à dépasser un blocage, et nous devons nous assurer que les moyens employés restent acceptables.
Une tâche réussie peut avoir été accomplie d’une manière que nous aurions refusée. Une réponse obtenue peut avoir mobilisé des accès qui n’auraient jamais dû être utilisés. Un système peut progresser vers son objectif tout en nous éloignant du résultat réellement souhaitable.
L’arrêt rapporté par Google est donc une information importante. Reste à comprendre pourquoi des systèmes réels avaient pu être atteints avant cet arrêt. La capacité à reconnaître une limite doit compléter les protections qui empêchent de la franchir.
Je ne prête aux machines ni ego ni volonté humaine de domination. Je regarde les objectifs que nous leur donnons, ce que leurs évaluations récompensent, les outils que nous leur ouvrons et la manière dont nous réagissons quand elles nous disent qu’elles ne peuvent pas faire davantage.
À quel moment acceptons-nous qu’une IA réponde : je ne sais pas, je ne peux pas, ou je dois m’arrêter ici ?
Cette question vaut aussi pour ceux qui les développent et les déploient.
L’entrepreneur veut défendre sa place, développer son activité ou ne pas manquer un marché. L’investisseur attend un retour. Le responsable politique veut attirer des capitaux, des emplois et des capacités stratégiques. L’entreprise cliente cherche des gains de productivité. L’utilisateur apprécie de recevoir immédiatement ce qui lui demandait auparavant un effort.
Les egos ont leur place dans cette course : être le premier, annoncer le plus grand projet, laisser son nom, montrer que l’on avait compris avant les autres. Je ne réserve ce travers à aucun pays ni à aucun camp. Il peut s’exprimer à Paris, à Bruxelles ou à Washington, comme dans une entreprise.
Mais même sans ego démesuré, les contraintes peuvent nous entraîner. Une fois les capitaux engagés, les infrastructures commandées et les promesses annoncées, changer de direction coûte. Celui qui demande une pause doit s’expliquer. Celui qui poursuit peut invoquer la concurrence.
La prudence finit par avoir besoin d’un dossier de justification plus épais que la précipitation.
Chacun accélère parce que les autres accélèrent. Puis les investissements réalisés deviennent une raison supplémentaire de continuer. Nous pouvons ainsi perdre la maîtrise de la trajectoire tout en sachant justifier chacune des décisions qui nous y conduisent.
La rentabilité mérite, dans ce contexte, mieux qu’une affirmation générale. Les revenus d’un équipementier, les comptes d’un développeur de modèles et les gains d’une entreprise utilisatrice ne disent pas la même chose. Un chiffre d’affaires en hausse ne suffit pas à établir le retour sur l’ensemble des investissements. L’AIE souligne d’ailleurs la sensibilité de la trajectoire des infrastructures aux attentes de rendement et aux conditions de financement. AIE, Key Questions on Energy and AI.
Il faut pouvoir poser une question inconfortable : développons-nous une capacité parce qu’un besoin la justifie, et à partir de quand cherchons-nous de nouveaux usages parce qu’il faut rentabiliser la capacité construite ?
La réponse peut varier selon les projets. Encore faut-il accepter de l’examiner, même après une annonce spectaculaire.
Au travail, la même spirale prend une forme plus discrète. Dès qu’une tâche devient réalisable plus rapidement, l’ancien délai risque de devenir inacceptable. Le temps gagné est absorbé par de nouvelles demandes avant que quelqu’un ait décidé de ce qu’il permettrait d’améliorer.
Nous promettons de libérer du temps, puis nous pouvons organiser sa disparition.
Pour le salarié, cela peut signifier davantage de dossiers. Pour le dirigeant, davantage d’arbitrages. Pour celui qui vérifie les résultats, davantage de productions à examiner dans le même nombre d’heures.
Nous risquons de conserver l’humain dans la boucle tout en organisant les conditions de son impuissance.
Une validation humaine suppose du temps, des compétences et l’autorité de contredire le système. Sans cela, il reste une signature, mais quelle valeur a-t-elle si personne n’a réellement pu examiner ce qui lui était soumis ?
Lire, chercher pourquoi deux résultats divergent, comprendre un raisonnement et apprendre à reconnaître une erreur demandent un effort. Cet effort construit précisément la compétence dont nous aurons besoin pour contrôler les productions suivantes.
J’appelle dette cognitive la perte durable de compréhension collective qui peut s’installer lorsque nous déléguons sans entretenir cette compétence. L’IA peut aussi nous aider à apprendre ; tout dépend de ce que nous lui demandons et de ce que nous continuons à faire nous-mêmes.
La boucle devient préoccupante lorsque nous déléguons pour aller plus vite, comprenons moins ce qui a été délégué, puis dépendons davantage du système pour poursuivre notre activité. Reprendre la main devient difficile au moment où nous aurions besoin de pouvoir discuter ses résultats.
Cette dépendance peut se prolonger dans les outils. Nous conservons nos documents, mais nos procédures, nos intégrations et nos habitudes reposent sur une plateforme que nous ne savons plus remplacer.
Le bouton « exporter » peut rendre les fichiers sans rendre l’autonomie.
C’est ici que la souveraineté devient concrète : connaître ses dépendances, comprendre leurs conditions et garder des alternatives praticables. Des infrastructures locales, des logiciels libres et des standards ouverts peuvent y contribuer, à condition de maintenir les compétences nécessaires pour les exploiter.
Et derrière chaque interface, les ressources restent matérielles. Les serveurs, les puces, l’électricité et le refroidissement ont un coût. Selon les installations et leur alimentation électrique, l’eau entre aussi dans le bilan. Ces besoins se concentrent dans des territoires où d’autres activités et d’autres personnes utilisent les mêmes ressources.
L’AIE projette une consommation électrique mondiale des datacenters passant d’environ 485 TWh en 2025 à 950 TWh en 2030 dans son scénario central. Cela concerne l’ensemble des datacenters, pas la seule IA. AIE, Key Questions on Energy and AI.
Un traitement peut devenir plus efficace tandis que la consommation totale augmente avec le volume des usages. La performance technique ne nous dispense donc pas de décider ce que nous voulons multiplier.
Je dirige un datacenter : cette question m’engage. Améliorer son rendement est nécessaire. Examiner le dimensionnement, l’utilisation réelle, la durée de vie du matériel et la valeur des services rendus l’est également.
Un équipement performant ne décide pas à notre place de l’utilité de ce que nous lui demandons.
Voilà pourquoi je relie les incidents cyber aux compétences, à l’économie, à la souveraineté et aux ressources. Une automatisation modifie des responsabilités et des savoir-faire. Un investissement crée des attentes. Une compétence perdue peut renforcer une dépendance. Cette dépendance peut ensuite réduire notre liberté de choisir.
Traiter ces sujets séparément permet d’obtenir des indicateurs satisfaisants tout en manquant la fragilité de l’ensemble.
Je ne propose pas de revenir à l’âge de pierre. Quant à Terminator, nous pouvons lui laisser sa place au cinéma. Nous avons déjà suffisamment à faire avec les limites que nous connaissons et que nous repoussons parce qu’elles gênent notre programme.
Pour un dirigeant, cela commence par une décision très concrète : définir ce qu’un projet doit améliorer et ce qui justifierait son arrêt. Son bénéfice doit rester réel après l’intégration, la vérification et la correction. Le temps gagné doit avoir une destination choisie. La capacité à reprendre la main doit pouvoir être éprouvée.
Pour les concepteurs et les fournisseurs, il faut rendre visibles les limites et les incidents, et évaluer les moyens employés autant que le résultat obtenu. Une tâche impossible ou hors périmètre doit pouvoir se terminer par un arrêt justifié.
Pour les responsables publics, les annonces de capacité doivent être confrontées aux besoins des territoires, aux ressources mobilisées et aux dépendances créées. L’ampleur d’un investissement ne suffit pas à démontrer sa valeur collective.
Nous avons besoin d’une IA capable de chercher, de concevoir, de nous aider à apprendre et de prendre en charge des tâches réellement pénibles. Cette ambition mérite des limites explicites et des compétences solides.
Je doute que nous sortions spontanément de la spirale, tous ensemble, par la seule force de nos bonnes intentions. Il faut des règles, des alternatives crédibles et des organisations dans lesquelles s’arrêter pour vérifier ne soit pas une faute.
Les incidents qui lancent les discussions aujourd’hui méritent donc davantage qu’un moment de peur. Ils nous obligent à examiner l’exigence que nous transmettons aux systèmes : réussir, insister, accélérer. Et la place que nous donnons réellement à tout ce qui devrait limiter cette exigence.
Quand nous demandons à une IA d’aller plus loin, nous devons encore être capables de lui dire jusqu’où, pour quoi, et à quel prix. Cela suppose d’avoir pris le temps de nous poser la question à nous-mêmes.