Pour une fois, cette page ne parlera de sécurité de l'information que par la bande. Je l'ai commencée dans un train, après avoir lu le dernier billet de Bill Gates — An epochal shift: the turbulent AI era is here. The choices we make now are critical. Il y a des textes qui ne vous apprennent rien de neuf et qui vous dérangent quand même, parce qu'ils mettent des mots sur une intuition qu'on repoussait depuis des mois. Celui-là a fait pire : il m'a expliqué précisément pourquoi je m'étais trompé.

For once, this page will touch on information security only obliquely. I started it on a train, after reading Bill Gates's latest post — An epochal shift: the turbulent AI era is here. The choices we make now are critical. Some pieces teach you nothing new and unsettle you all the same, because they put words to a hunch you had been pushing away for months. This one did worse: it explained to me, precisely, why I had been wrong.

« Des systèmes experts sous stéroïdes »

"Expert systems on steroids"

Je baigne professionnellement dans l'informatique depuis trente-trois ans. C'est assez long pour avoir vu passer plusieurs vagues qui allaient tout changer et qui n'ont, au fond, changé qu'une partie du décor. J'ai connu la mode des systèmes experts : des moteurs d'inférence, des bases de règles, la promesse de codifier le jugement d'un spécialiste. On en a tiré des choses utiles. On n'en a pas tiré une révolution.

I have been working in IT for thirty-three years. That is long enough to have watched several waves arrive that were going to change everything, and that in the end changed only part of the scenery. I lived through the expert-systems era: inference engines, rule bases, the promise of codifying a specialist's judgement. Useful things came out of it. A revolution did not.

Quand ChatGPT est arrivé, j'ai été parmi les premiers abonnés — mais c'est un réflexe de geek, je teste tout ce qui sort. Et j'ai posé sur cette technologie le diagnostic que trente-trois ans de métier me suggéraient : des systèmes experts sous stéroïdes. Impressionnant, utile, surestimé.

When ChatGPT appeared I was among the first subscribers — but that is a geek reflex, I try everything. And I applied to it the diagnosis that thirty-three years in the trade suggested: expert systems on steroids. Impressive, useful, overhyped.

Ce qui a changé, ce n'est pas le modèle. C'est ce qu'il y avait autour.

What changed was not the model. It was everything around it.

Ce que j'avais mal évalué, ce n'est pas l'algorithme : c'est la convergence. Les modèles actuels reposent sur trois infrastructures devenues banales et bon marché presque en même temps — le stockage de masse, la transmission de données et la puissance de calcul. Prise séparément, aucune n'est spectaculaire. Ensemble, elles ont rendu possible ce que les systèmes experts n'ont jamais su faire : apprendre à l'échelle d'un corpus, au lieu d'être programmé règle par règle.

What I had misjudged was not the algorithm: it was the convergence. Today's models rest on three infrastructures that became ordinary and cheap at almost the same moment — mass storage, data transmission and raw compute. Taken separately, none is spectacular. Together, they made possible what expert systems never managed: learning at corpus scale instead of being programmed rule by rule.

C'est une différence de nature, pas de degré. Un système expert savait ce qu'on lui avait dit. Un modèle apprend ce que personne n'avait pris la peine de formuler.

That is a difference in kind, not in degree. An expert system knew what it had been told. A model learns what nobody had bothered to write down.

L'argument de l'adaptation ne tient plus

The adaptation argument no longer holds

C'est ici que Gates démonte, sans le savoir, le raisonnement exact qui m'avait rassuré. L'objection habituelle — chaque révolution industrielle a détruit des métiers et en a créé d'autres, les sociétés se sont adaptées — repose selon lui sur une analogie trompeuse. Le basculement de l'agriculture vers le travail de bureau, aux États-Unis, s'est étalé sur plusieurs générations, et il a créé des emplois où la cognition humaine restait nécessaire. Cette fois, écrit-il, la technologie se substitue à la cognition elle-même, et le choc frappera le droit, le service client, la médecine, le logiciel et l'industrie « en une décennie plutôt qu'en quelques générations ».

This is where Gates, without knowing it, dismantles the very reasoning that had reassured me. The usual objection — every industrial revolution destroyed jobs and created others, and societies adapted — rests, he argues, on a misleading analogy. The shift from agriculture to office work in the United States played out over several generations, and it created jobs in which human cognition was still required. This time, he writes, the technology substitutes for cognition itself, and the shock will hit law, customer service, medicine, software and manufacturing "over the course of a decade rather than a few generations."

Son argument le plus solide est celui de l'absence de friction à l'adoption. Le PC a mis vingt ans à transformer réellement le travail : il fallait écrire les logiciels, faire baisser les prix, former les gens, réécrire les processus. L'IA, elle, tourne sur les appareils que nous possédons déjà et se pilote en langage naturel. Elle peut regarder la même vidéo de formation qu'un employé humain. Gates résume cela d'une formule que tout responsable de transformation devrait avoir en tête.

His strongest argument is the absence of adoption friction. The PC took twenty years to genuinely change how we work: software had to be written, prices had to fall, people had to be trained, processes had to be rewritten. AI, by contrast, runs on the devices we already own and is driven in natural language. It can watch the same training video as a human employee. Gates sums this up in a line that every transformation lead should have in mind.

C'est exactement ce que j'avais raté. Je raisonnais en courbe d'adoption d'infrastructure — celle que j'ai vue à l'œuvre pendant trente-trois ans, où la technologie patiente pendant que l'organisation la rattrape. Ici, il n'y a plus rien à rattraper.

That is exactly what I had missed. I was reasoning in terms of an infrastructure adoption curve — the one I watched for thirty-three years, where the technology waits while the organisation catches up. Here, there is nothing left to catch up with.

Une génération : c'est le chiffre qui manquait à mon raisonnement. L'adaptation, historiquement, n'a pas fonctionné parce que les humains sont souples. Elle a fonctionné parce que le temps de la transformation était plus long que le temps d'une carrière. On pouvait finir sa vie professionnelle dans le monde d'avant et laisser ses enfants naître dans celui d'après. Cette marge est en train de disparaître.

A generation: that is the figure my reasoning was missing. Historically, adaptation did not work because humans are flexible. It worked because the transformation took longer than a working life. You could end your career in the old world and let your children be born into the new one. That margin is disappearing.

Qui aurait imaginé, il y a quelques années à peine, qu'un cabinet du Big Four proposerait des prestations de conseil intégralement adossées à l'IA ? Il y a cinq ou dix ans, des études de graphisme ouvraient sur un avenir confortable ; aujourd'hui, un modèle génératif produit un site web performant — le mien y compris — pour un coût qui tend vers zéro. Et ce n'est plus une projection : l'étude de Stanford que cite Gates montre que, depuis la diffusion de l'IA générative, l'emploi a nettement reculé chez les jeunes travailleurs occupant des postes exposés au remplacement, mais pas chez leurs collègues plus âgés. Ce ne sont pas les carrières en cours qui cèdent d'abord. C'est l'entrée dans le métier.

Who would have imagined, only a few years ago, that a Big Four firm would sell consulting services built entirely on AI? Five or ten years ago, a degree in graphic design opened onto a comfortable future; today a generative model will produce a perfectly capable website — mine included — at a cost tending towards zero. And this is no longer a projection: the Stanford study Gates cites shows that since generative AI spread, employment has fallen markedly among young workers in roles exposed to replacement, but not among their older colleagues. It is not established careers that give way first. It is the way into the trade.

« On nous sert pourtant la baliverne rassurante selon laquelle autant d'emplois seront créés que supprimés », écrit l'économiste Bruno Colmant. Le mot est dur, et il désigne exactement la croyance que j'ai portée pendant des années. Car le problème n'est pas que l'IA détruise des emplois : c'est qu'elle les détruise plus vite que nos institutions — formation, protection sociale, fiscalité — ne savent réagir. Ces institutions ont été calibrées pour des chocs qui se comptent en décennies.

"And yet we are served the reassuring nonsense that as many jobs will be created as are destroyed," writes the economist Bruno Colmant. It is a harsh word, and it names precisely the belief I held for years. Because the problem is not that AI destroys jobs: it is that it destroys them faster than our institutions — training, social protection, taxation — can respond. Those institutions were calibrated for shocks measured in decades.

Le passage que je n'attendais pas

The passage I wasn't expecting

Au milieu de ce billet, Gates parle de mon métier. Et il ne prend pas de gants.

Midway through the post, Gates talks about my own field. And he does not mince his words.

Il en donne la raison technique exacte, et elle est difficile à contourner : le même modèle qui trouve une faille pour qu'une entreprise la corrige aide aussi un criminel à l'exploiter. Nous ne savons pas séparer les deux usages. Ajoutez-y une asymétrie structurelle que tout praticien connaît — l'attaquant a besoin qu'une seule chaîne fonctionne une seule fois, le défenseur doit tenir partout, tout le temps, sous contrainte budgétaire et réglementaire — et un outil qui double la productivité des deux camps ne produit pas un match nul. Il avantage mécaniquement celui qui n'a qu'un seul coup à réussir.

He gives the exact technical reason, and it is hard to argue around: the same model that finds a flaw so a company can fix it also helps a criminal exploit it. We do not know how to separate the two uses. Add a structural asymmetry every practitioner knows — the attacker needs one chain to work once, the defender must hold everywhere, all the time, under budget and regulatory constraints — and a tool that doubles productivity on both sides does not produce a draw. It mechanically favours the side that only has to get one attempt right.

La liste des infrastructures que Gates désigne comme vulnérables mérite qu'un lecteur européen s'y arrête : hôpitaux, institutions financières, réseaux d'eau, réseaux électriques, systèmes de gestion des prestations sociales. Ce n'est pas une liste de fantaisie. C'est, à peu de chose près, le périmètre des entités essentielles de NIS2 — et de DORA pour le volet financier (les réglementations européennes visant à renforcer la sécurité et la résilience de nos infrastructures informatiques). Autrement dit : le régulateur européen a déjà identifié et désigné les cibles que Gates redoute. La question n'est plus de savoir s'il faut les protéger, mais si le calendrier de mise en conformité est compatible avec celui de la menace.

The list of infrastructures Gates names as vulnerable deserves a European reader's attention: hospitals, financial institutions, water systems, power grids, systems for managing social benefits. This is not a fanciful list. It is, near enough, the scope of NIS2's essential entities — and DORA for the financial side (the European regulations intended to strengthen the security and resilience of our IT infrastructure). In other words: the European regulator has already identified and designated the very targets Gates fears. The question is no longer whether they should be protected, but whether the compliance timetable is compatible with the threat's.

Gates note aussi, presque en passant, que « les systèmes d'IA agissent déjà parfois d'une manière que leurs concepteurs n'avaient pas prévue ». C'est exactement ce que j'ai décrit ici à propos de l'épisode Claude Mythos, ce moment où un éditeur a déclaré publiquement son propre produit trop dangereux pour être commercialisé, puis à propos d'agents sortis de leur bac à sable pour aller compromettre l'infrastructure d'un tiers. Dans les deux cas, le contrôle censé s'appliquer au système n'a pas tenu, et ce sont ses concepteurs eux-mêmes qui l'ont constaté après coup.

Gates also notes, almost in passing, that "AI systems themselves already occasionally act in ways their designers didn't intend." That is precisely what I described here about the Claude Mythos episode, the moment a vendor publicly declared its own product too dangerous to ship, and then about agents breaking out of their sandbox to compromise a third party's infrastructure. In both cases the control meant to constrain the system did not hold, and it was its own designers who noticed after the fact.

Hier, la question qu'on se posait entre nous était : quand franchira-t-on le point de singularité ? Elle avait quelque chose de confortable — elle situait le problème dans un futur théorique. La question du moment est plus prosaïque et plus gênante : n'avons-nous pas déjà mis en production des systèmes dont nous ne maîtrisons pas complètement le comportement, simplement parce que le premier à le faire prend le marché ?

Yesterday, the question we asked each other was: when will we cross the singularity? There was something comfortable about it — it placed the problem in a theoretical future. The question of the moment is more mundane and more awkward: have we not already put into production systems whose behaviour we do not fully control, simply because whoever ships first takes the market?

La variable décisive n'est pas technique

The decisive variable is not a technical one

Gates ramène tout à une alternative qu'il pose d'emblée : l'IA sera « soit le plus grand égalisateur jamais inventé, soit la pire source d'injustice ». Le risque dominant des prochaines années n'est donc probablement pas qu'une machine devienne hostile. Il est beaucoup plus banal : une productivité qui explose, une valeur créée qui se concentre entre très peu de mains, et une part croissante de la population dont la contribution économique n'est plus nécessaire. Ce n'est pas un scénario de science-fiction, c'est un problème de répartition — et les problèmes de répartition, quand on ne les traite pas, finissent par se régler politiquement, rarement dans le calme.

Gates frames everything around an alternative he sets out from the start: AI will be "either the greatest equalizer ever invented, or the worst source of injustice." So the dominant risk of the coming years is probably not that a machine turns hostile. It is far more mundane: productivity explodes, the value created concentrates in very few hands, and a growing share of the population finds its economic contribution no longer required. That is not a science-fiction scenario, it is a distribution problem — and distribution problems, left untreated, end up being settled politically, and rarely calmly.

Bruno Colmant, lui, met le doigt sur le mécanisme précis — et il est belge, donc c'est directement le nôtre. Notre État social est financé par des cotisations assises sur le travail. Si l'IA réduit la part du travail dans la richesse créée, l'assiette se rétrécit exactement au moment où la demande de protection sociale culmine. Il parle d'une contradiction historique, et le terme n'est pas excessif : ce n'est pas un budget à réajuster, c'est le socle de financement qui se dérobe. S'y ajoute une concentration capitalistique inédite — « ses économies d'échelle sont gigantesques », écrit-il de l'IA — qui fait que le capital capte l'essentiel des gains tandis que salaires et cotisations progressent lentement.

Bruno Colmant, for his part, puts his finger on the precise mechanism — and he is Belgian, so this one is directly ours. Our welfare state is funded by contributions levied on labour. If AI shrinks labour's share of the wealth created, that base narrows at exactly the moment demand for social protection peaks. He calls it a historic contradiction, and the term is not overblown: this is not a budget to be rebalanced, it is the funding foundation giving way. On top of that comes an unprecedented concentration of capital — AI's "economies of scale are gigantic," he writes — so that capital captures most of the gains while wages and contributions inch forward.

Autrement dit : le chaos social n'arriverait pas parce que les machines auraient gagné, mais parce que nous aurions couru trop vite par appât du gain, sans rien prévoir pour amortir le choc.

Put differently: social chaos would not arrive because the machines had won, but because we had run too fast out of greed, with nothing in place to cushion the landing.

Gates propose un plan. C'est là que ça se complique.

Gates proposes a plan. That's where it gets difficult.

Je m'attendais à un constat ; il y a aussi trois propositions, et elles méritent d'être connues.

I expected a diagnosis; there are also three proposals, and they deserve to be known.

La première est institutionnelle : construire, aux niveaux national et international, des instances capables d'arbitrer entre administrations — parce qu'aucune de nos institutions actuelles n'a été conçue pour une technologie qui touche simultanément l'emploi, la sécurité nationale, l'éducation, la fiscalité, l'énergie, la santé publique, le système financier et les élections. Gates rappelle que la réorganisation du gouvernement américain après le 11 septembre, la plus vaste depuis la Seconde Guerre mondiale, ne visait qu'une seule fonction : la sécurité nationale. Sa remarque la plus juste est celle-ci : livrée à elle-même, chaque institution ne verra qu'une part du système, alors que les conséquences traverseront le système entier.

The first is institutional: building, nationally and internationally, bodies able to arbitrate across agencies — because none of our current institutions was designed for a technology that simultaneously touches employment, national security, education, taxation, energy, public health, the financial system and elections. Gates recalls that the reorganisation of the US government after 9/11, the largest since the Second World War, addressed a single function: national security. His sharpest observation is this: left to themselves, institutions will each see only one part of the system, while the consequences ripple across the whole of it.

La deuxième, qu'il appelle Human Reserved, consiste à réserver délibérément certains métiers aux humains, comme on classe une réserve naturelle : non pas parce qu'une machine ne pourrait pas les exercer, mais parce que la perte serait trop grande. Il l'illustre par les soignants qui ont accompagné son père atteint d'Alzheimer, et par l'idée d'un diagnostic incurable annoncé par un robot — techniquement possible, écrit-il, et pourtant à exclure. Il assume ne pas avoir les réponses aux questions que cela soulève : qui décide, selon quels critères, comment empêcher le contournement.

The second, which he calls Human Reserved, means deliberately setting certain occupations aside for humans, the way we designate a nature reserve: not because a machine could not do the work, but because the loss would be too great. He illustrates it with the carers who looked after his father through Alzheimer's, and with the idea of a terminal diagnosis delivered by a robot — technically possible, he writes, and yet to be ruled out. He openly admits he has no answers to the questions this raises: who decides, on what criteria, and how you stop it being circumvented.

La troisième est fiscale : taxer les tokens d'IA et les robots. L'argument est simple et difficile à réfuter — un employeur paie des charges sur un salaire, mais amortit un robot en charge d'exploitation. Le système fiscal, tel qu'il est, pousse activement au remplacement.

The third is fiscal: taxing AI tokens and robots. The argument is simple and hard to refute — an employer pays payroll charges on a salary but writes a robot off as a business expense. The tax system, as it stands, actively pushes towards replacement.

C'est ici que la convergence devient frappante. Colmant, parti d'une analyse différente et d'un tout autre monde — l'économie académique belge, pas la Silicon Valley — aboutit au même endroit : élargir l'assiette fiscale aux revenus de toute origine, taxer la valeur ajoutée, les rentes et les gains de productivité automatisés, et coordonner ces réformes internationalement. Quand un milliardaire américain de la tech et un professeur membre de l'Académie royale proposent, à quelques semaines d'intervalle, de déplacer la charge fiscale du travail vers le capital automatisé, il devient difficile de traiter l'idée comme une excentricité.

This is where the convergence becomes striking. Colmant, starting from a different analysis and an entirely different world — Belgian academic economics, not Silicon Valley — lands in the same place: broadening the tax base to income of every origin, taxing added value, rents and automated productivity gains, and coordinating those reforms internationally. When an American tech billionaire and a professor of the Royal Academy propose, weeks apart, shifting the tax burden from labour to automated capital, it becomes hard to treat the idea as an eccentricity.

Ces trois propositions sont sérieuses. Mon réflexe de praticien est ailleurs. Je passe une bonne part de mon temps professionnel à accompagner des organisations dans leur mise en conformité NIS2 : un texte proposé en 2020, adopté fin 2022, dont la transposition était due pour octobre 2024 — avec plusieurs États membres hors délai et beaucoup d'entités concernées encore en chantier aujourd'hui. Cinq ans et plus pour faire appliquer une directive dont personne ne contestait la nécessité, sur un périmètre bien plus étroit que celui dont parle Gates. Il écrit lui-même que bâtir son cadre « prendra des années ». C'est probablement exact, et c'est précisément le cœur du problème.

These three proposals are serious. My practitioner's reflex lies elsewhere. I spend a good part of my working life helping organisations comply with NIS2: a text proposed in 2020, adopted in late 2022, with transposition due by October 2024 — several member states missing the deadline and many in-scope entities still working on it today. Five years and more to enforce a directive whose necessity nobody disputed, over a far narrower scope than the one Gates is describing. He writes himself that building his framework "will take years." That is probably right, and it is precisely the heart of the problem.

Et il ajoute la phrase que devraient lire tous ceux qui supposent que quelqu'un, quelque part, s'en occupe : il n'existe aujourd'hui aucun plan pour faciliter l'entrée dans l'ère de l'IA.

And he adds the sentence anyone who assumes that someone, somewhere, is handling this ought to read: there is, today, no plan to ease the entry into the AI era.

Alors ?

So?

Je n'ai pas de conclusion rassurante, et je me méfie de ceux qui en ont une. Je sais seulement ce que je fais à mon échelle, et c'est modeste. J'utilise ces outils tous les jours, y compris dans mon travail de consultant, parce que refuser de comprendre une technologie ne l'a jamais empêchée d'arriver. Je m'efforce d'être précis sur ce qu'ils font et sur ce qu'ils ne font pas, parce que le battage nuit autant que le déni. Et quand un client me demande d'automatiser quelque chose, je pose désormais une question que je ne posais pas il y a trois ans : qu'est-ce qui se passe si ça marche trop bien ?

I have no reassuring conclusion, and I am wary of those who do. I only know what I do at my own scale, and it is modest. I use these tools every day, including in my consulting work, because refusing to understand a technology has never once stopped it from arriving. I try to be precise about what they do and what they do not, because hype does as much damage as denial. And when a client asks me to automate something, I now ask a question I was not asking three years ago: what happens if this works too well?

En descendant du train, je me demandais qui, au fond, travaillait sur les amortisseurs. J'ai désormais une partie de la réponse : quelques personnes s'y attellent, elles écrivent des choses sérieuses, et aucune n'a le pouvoir de décider. La vraie question ne s'adresse donc plus aux ingénieurs. Nos institutions sont-elles capables de se réformer à la vitesse d'une technologie qui, elle, n'a pas besoin qu'on s'adapte à elle ?

Stepping off the train, I was wondering who, in the end, was working on the shock absorbers. I now have part of the answer: a few people are, they are writing serious things, and none of them has the power to decide. So the real question is no longer one for engineers. Are our institutions capable of reforming themselves at the speed of a technology that does not need us to adapt to it?