La mauvaise apocalypse : Andrea Pignataro répond à Amodei - Partie 2
Nous reprenons et terminons, avec ce second volet, la longue conversation simulée avec Andrea Pignataro, PDG d'ION Group, reconstruite à rebours à partir des réflexions publiées dans son document "The Wrong Apocalypse". Un procédé narratif pour rendre plus immédiate l'analyse critique que Pignataro adresse au document de Dario Amodei et aux réactions du marché.
Les entreprises sont en train d'entraîner leur remplaçant
Jusqu'ici, vous avez démonté la panique du marché. Mais dans votre document, il y a un point où vous introduisez un paradoxe qui est, si possible, encore plus inquiétant que la thèse que vous réfutiez. À quoi faites-vous référence ?
Quand une société de conseil utilise Claude pour rédiger des analyses pour ses clients, elle ne fait pas qu'obtenir un gain de productivité. Elle enseigne à Anthropic, à travers des modèles agrégés d'utilisation, de retours, de raffinement et d'évaluation — tout cela dans le respect des politiques de confidentialité déclarées —, à quoi ressemblent les jeux de langage du conseil. Pas les données propriétaires de l'entreprise au sens strictement légal, mais quelque chose de potentiellement plus précieux : la forme, la structure, la grammaire du métier de consultant. Comment les analyses sont structurées. Ce que les clients attendent. Quels standards de rigueur s'appliquent. À quoi ressemblent les modes d'échec.
Au fil du temps, à travers des milliers de sociétés de ce type, la plateforme d'IA accumule une cartographie du jeu de langage du conseil à un niveau de résolution qu'aucune société ne possède sur elle-même. La même chose s'applique aux cabinets d'avocats, aux sociétés d'expertise comptable, aux conseillers financiers, aux courtiers en assurance, aux agences de marketing, aux cabinets d'architecture, aux sociétés d'ingénierie — n'importe quelle entreprise de travail intellectuel qui adopte des outils d'IA provenant d'une société de plateforme.
Vous décrivez un piège. Chaque entreprise qui adopte rationnellement ces outils accélère collectivement sa propre non-pertinence.
Exactement. Les entreprises adoptent des outils d'IA pour rester compétitives. Ce faisant, elles alimentent le système même qui apprend à les rendre inutiles. La logique de l'entreprise individuelle est rationnelle de manière isolée : si vous n'adoptez pas l'IA, votre concurrent le fera, il sera plus rapide et moins cher, et vous perdrez des parts de marché. Mais la logique collective est irrationnelle : chaque adoption rationnelle de l'IA par chaque entreprise accélère la capacité de la plateforme à désintermédier l'ensemble du secteur.
C'est une tragédie des biens communs classique, sauf que le bien commun détruit n'est pas une ressource physique, mais le fossé économique de toute l'économie. Chaque client est simultanément une source de revenus et un signal d'entraînement. La structure du jeu est identique à une course aux armements : la stratégie individuellement rationnelle mène à une issue collectivement catastrophique. Chaque entreprise s'arme d'IA. Les plateformes d'IA apprennent de l'armement. Les plateformes deviennent capables de faire ce que font les entreprises. Les entreprises deviennent inutiles. Et au moment où les entreprises s'en rendent compte, elles ont déjà entraîné leur remplaçant.
Il y a une citation de Warren Buffett que vous apportez à l'appui de ce point.
Buffett a observé que lorsqu'on embauche quelqu'un, il faut chercher trois qualités : l'intégrité, l'intelligence et l'énergie, et que si le candidat manque de la première, les deux autres le tueront. L'aphorisme peut être appliqué à l'IA. L'intégrité — l'alignement des intérêts entre l'outil et l'utilisateur — est ce que les dynamiques que j'ai décrites remettent en question. Chaque interaction apprend à la plateforme à rendre inutiles les entreprises qui l'utilisent.
Existe-t-il une issue à ce piège ?
Au lieu d'adopter l'IA sur des plateformes fermées, les entreprises peuvent investir dans des modèles open source entraînés sur leurs propres données, déployés sur leur propre infrastructure, sous leur propre contrôle. Ce parcours nécessite un investissement technique, une gestion des données et une orientation stratégique que la plupart des entreprises ne possèdent pas actuellement. Mais il préserve la connaissance institutionnelle en tant que ressource propriétaire. La fenêtre pour construire cette capacité est ouverte maintenant. Elle ne restera pas ouverte indéfiniment.
La réaction en chaîne que le marché ne voit pas
Les conséquences de ce paradoxe s'arrêtent-elles aux logiciels d'entreprise, ou voyez-vous des effets en chaîne plus larges ?
Ces conséquences sont systémiques et se propageront à travers chaque secteur, car les secteurs qui sont désintermédiés sont eux-mêmes l'infrastructure d'autres secteurs. Les sociétés de conseil perdent des revenus alors que les clients se tournent directement vers l'IA. Les cabinets d'avocats perdent des revenus alors que les départements juridiques d'entreprise automatisent le travail sur les contrats. Les sociétés d'expertise comptable perdent des revenus alors que l'IA gère la conformité et la préparation des audits. Les courtiers en assurance perdent des revenus alors que les consommateurs et les entreprises comparent les polices directement via des agents d'IA. Les sociétés de conseil financier perdent des revenus alors que les gestionnaires de portefeuille automatisés prennent la place des conseillers humains. Les agences de marketing perdent des revenus alors que des systèmes comme Claude Cowork produisent des stratégies de campagne et des briefs créatifs. Dans chaque cas, la position du service professionnel en tant qu'intermédiaire entre la connaissance et le client est érodée par une plateforme qui connaît le jeu de langage assez bien pour y jouer directement.
Et ensuite, les effets sur les industries adjacentes.
Les sociétés de conseil sont de gros clients de l'immobilier commercial, des compagnies aériennes, des hôtels, des services de restauration d'entreprise, des sociétés de recrutement et des organismes de formation. Les cabinets d'avocats sont de gros clients des mêmes secteurs, plus les entreprises de technologie juridique, les services de transcription judiciaire et les fournisseurs de gestion documentaire. Lorsque les revenus se contractent dans les services professionnels, la demande se contracte dans tous ces secteurs adjacents. L'effondrement dans le logiciel est la partie émergée de l'iceberg. L'effondrement dans les secteurs qui servent les éditeurs de logiciels et les services professionnels est la partie encore sous l'eau.
Les 2 trillions détruits dans la valeur de marché du logiciel ne représentent pas l'ampleur des dégâts. C'est un acompte. Les dynamiques se déploieront dans tous les secteurs. Le déplacement économique total n'est pas de 2 trillions. Il est supérieur de deux ordres de grandeur. Et il n'est pas couvert, car il n'existe aucune classe d'actifs isolée d'une réduction systémique du volume de l'intermédiation du travail intellectuel.
Décrivez le domino en détail.
La première phase voit les plateformes d'IA devenir suffisamment fluides dans les jeux de langage du secteur pour gérer directement les tâches de routine pour les clients finaux. Les entreprises de services professionnels perdent des revenus sur ces services de base. Certaines s'adaptent en montant dans la chaîne de valeur ; beaucoup ne le peuvent pas. La première vague de fermetures commence.
Dans la deuxième phase, à mesure que les plateformes d'IA accumulent davantage de connaissances institutionnelles grâce aux interactions agrégées, elles commencent à envahir le travail qui nécessitait auparavant une compréhension contextuelle profonde : conseil stratégique, stratégie de litige complexe, modélisation financière sur mesure, gestion du changement organisationnel. Les plateformes ne remplacent pas complètement le jugement humain, mais elles réduisent le nombre d'humains nécessaires pour chaque mission. Les effets secondaires en cascade frappent l'immobilier commercial, les voyages d'affaires et les secteurs adjacents.
Dans la troisième phase, la réduction des revenus des services professionnels se propage à travers le système financier. Le capital-risque et les portefeuilles de private equity subissent des dépréciations significatives. L'IA était assez puissante pour détruire les logiciels existants, et les dépenses d'investissement des grands fournisseurs d'infrastructures cloud étaient injustifiées, car le volume total d'activité économique nécessitant des infrastructures d'IA s'est contracté parallèlement aux secteurs que l'IA a désintermédiés. La thèse d'investissement s'effondre des deux côtés simultanément.
La quatrième phase est celle qui concerne les villes et le tissu social. La perte d'emplois dans les services professionnels — juridique, conseil, comptabilité, conseil spécialisé, services financiers — frappe non seulement les travailleurs mais aussi les communautés, les institutions et les bases fiscales qui en dépendent. Les villes dont l'économie dépend fortement des services professionnels — Londres, New York, Singapour, Zurich, Sydney — connaissent des déclins structurels des valeurs de l'immobilier commercial, des recettes fiscales locales et des dépenses de consommation. Les inscriptions universitaires dans les programmes de commerce, de droit et de comptabilité s'effondrent, déclenchant une crise dans l'enseignement supérieur qui se propage davantage dans l'économie. Les structures sociales construites autour du travail intellectuel, les identités, les parcours de carrière, les moyens de subsistance de la classe moyenne commencent à se dissoudre de la manière décrite par Vonnegut.
La sincérité comme avantage compétitif
Il y a un passage de votre document qui m'a frappé : la manière dont vous analysez la marque « safety-first » d'Anthropic non seulement comme une posture éthique, mais comme un outil d'accumulation stratégique. Pouvez-vous l'expliquer ?
La marque de la sécurité avant tout instaure la confiance avec les régulateurs, les clients entreprises et le public. Cette confiance crée l'accès : accès à plus de secteurs, plus de cas d'utilisation, plus d'interactions, plus de jeux de langage. Cet accès compose l'avantage d'apprentissage que j'ai décrit précédemment. L'entreprise en laquelle les entreprises ont le plus confiance est celle à laquelle elles donnent le plus d'accès. Celle à laquelle elles donnent le plus d'accès est celle qui apprend le plus vite leurs jeux de langage. Celle qui apprend le plus vite leurs jeux de langage est la mieux positionnée pour désintermédier éventuellement ces mêmes entreprises.
L'essai d'Amodei consacre un cinquième de sa longueur aux risques du pouvoir économique concentré, mettant en garde contre « une seule entreprise ou un petit nombre d'entreprises » contrôlant la production d'IA. Mais il ne braque pas cet objectif sur la position structurelle qu'occupe n'importe quelle plateforme d'IA suffisamment fiable. Il met en garde contre la concentration du pouvoir dans l'abstrait, tout en décrivant une entreprise qui, selon la logique de ses propres produits, accumule la connaissance institutionnelle de chaque secteur qu'elle sert. La sincérité et l'avantage structurel ne s'excluent pas mutuellement. Dans un secteur où la confiance est la ressource la plus rare, la sincérité est l'avantage stratégique.
L'Europe comme friction salvatrice
Votre document se termine par une note géographique surprenante. Habituellement, la fragmentation réglementaire européenne est citée comme un inconvénient à l'ère de l'IA. Vous la retournez.
La fragmentation réglementaire européenne, habituellement citée comme un handicap à l'ère de l'IA, pourrait s'avérer être un frein au domino. Les mêmes frictions institutionnelles qui ralentissent l'adoption de l'IA ralentissent également chaque phase du mécanisme de transmission : vingt-sept régimes réglementaires, de multiples traditions juridiques, des protections du travail sévères et des barrières linguistiques n'empêchent pas le bouleversement, mais entravent la vitesse à laquelle la rupture dans une couche se propage à la suivante.
Le RGPD et l'AI Act limitent l'apprentissage des modèles agrégés qui guide l'accumulation de connaissances transversales. Des protections de l'emploi plus robustes ralentissent la traduction de la perte de revenus en réduction de personnel. La résistance culturelle à une restructuration rapide ralentit la traduction de la réduction de personnel en effondrement des communautés. Rien de tout cela n'est une immunité. C'est de la friction, et la friction, dans un domino, c'est la différence entre une transition gérée et une rupture structurelle.
La question finale : que devrions-nous craindre vraiment ?
Le marché panique pour la mauvaise chose. La panique correcte concerne l'incitation structurelle des entreprises à adopter des outils dont la logique compétitive exige d'elles d'apprendre, transversalement et longitudinalement, toute la grammaire de chaque secteur qu'elles servent. Ce n'est pas un événement de réévaluation de prix. C'est une transition de civilisation. La bonne question est : l'IA peut-elle entrer dans les jeux de langage qui constituent la vie économique ? Et la question suivante est : que se passe-t-il lorsque les institutions qui invitent l'IA dans leurs jeux de langage découvrent qu'elles lui ont appris à jouer sans elles ?
Vonnegut l'avait compris. Son player piano n'était pas l'histoire de machines plus intelligentes que les humains. C'était l'histoire d'une société qui avait oublié à quoi servaient les humains. C'est la question que nous devrions nous poser : non pas si l'IA peut faire ce que fait le logiciel, ou ce que font les consultants, ou ce que font les avocats, mais ce qui arrive au tissu institutionnel de la civilisation lorsque les entités qui le maintiennent ensemble ne sont plus nécessaires. Et cette question trouvera sa réponse, lentement et douloureusement, au cours de la prochaine décennie, à travers les choix cumulatifs de millions d'entreprises qui sont en train, maintenant, de prendre la décision individuellement rationnelle et collectivement catastrophique d'entraîner leur remplaçant.
La dystopie de Vonnegut fut le résultat d'une société qui cessa de prêter attention. Le domino que j'ai décrit est une trajectoire possible. Les trajectoires peuvent être modifiées.