Les entreprises tech à l'ère de l'IA : le rempart le plus profond est l'apprentissage séquentiel

J'écris des programmes depuis 43 ans. J'ai commencé à dix ans, vendu mon premier logiciel à douze ans et passé ma vie d'adulte à bâtir des entreprises de logiciel. L'ère de la programmation humaine est terminée. L'IA n'écrit pas un code parfait. Le code n'est plus le goulot d'étranglement.

Un moment précis a déclenché ce manifeste. J'ai vu une IA rétroconcevoir une fonctionnalité complexe de l'un de nos produits, une fonctionnalité reposant sur des mathématiques substantielles que des concurrents humains n'avaient pas réussi à reproduire. L'IA n'avait aucun accès à notre code source. Elle a étudié l'interface, raisonné sur les contraintes et reconstruit l'approche. Le résultat n'était pas parfait, et il s'en approchait assez pour me faire repenser tout ce que je croyais sur la défendabilité. Mon cœur d'entrepreneur était en léger état de choc.

J'ai écrit ce document pour les gens comme moi : fondateurs, bâtisseurs, investisseurs et quiconque doit prendre de vraies décisions sur ce qu'il faut construire et où investir.

Note : l'AGI complète, quand l'IA saura tout faire mieux que les humains, est probablement à moyen ou long terme. Quand l'AGI complète arrivera, toute la logique concurrentielle changera pour tout le monde en même temps. Ce document concerne la fenêtre qui précède, où le jugement humain compte encore et où la physique du travail intellectuel tient toujours. Cette fenêtre est peut-être la plus décisive de l'histoire de la création d'entreprises.

Qu'est-ce qui change quand l'IA peut écrire du logiciel ?

Thalius soutient que l'IA accomplit un travail conceptuellement familier à une vitesse si élevée que la catégorie change. La génération de logiciel est passée de semaines d'effort humain à des minutes d'effort d'IA. Une voiture illustre le schéma : à 10 km/h, une voiture est une aide à la marche, à 100 km/h, c'est un moyen de transport et à 1 000 km/h, c'est de l'aviation. La physique reste la même et le monde qui l'entoure change. Le changement de vitesse dans le logiciel est assez grand pour devenir un changement de catégorie, et un travail trop lent pour être rentable devient trivial.

L'industrialisation a suivi le même chemin dans la fabrication. La valeur a migré des mains de l'artisan vers l'esprit du concepteur d'usine, puis vers la marque, puis vers le réseau de distribution. Chaque transition a rendu la couche précédente moins chère et la couche supérieure plus précieuse. Le logiciel traverse aujourd'hui la même migration, compressée en années au lieu de décennies.

Quels produits logiciels l'IA peut-elle copier ?

Thalius appelle « produits orbite » les logiciels que l'IA peut produire aujourd'hui : des logiciels banalisés, comme un CRM complexe ou un excellent outil de design, qu'une bonne IA peut produire en quelques jours. Le voyage spatial donne l'échelle. Beaucoup peuvent atteindre l'orbite, ce qui est difficile mais résolu. Aller sur la Lune est qualitativement plus difficile, et Mars encore plus. L'étoile la plus proche relève d'une catégorie entièrement différente, et non de Mars multiplié par mille. L'idée essentielle est la façon dont le carburant nécessaire augmente : de manière exponentielle. Une fusée a besoin de carburant pour transporter le carburant qui transporte le carburant, et chaque incrément de distance exige des ressources disproportionnées.

Selon Thalius, c'est là que le raisonnement de la plupart des gens déraille, car l'IA ne rend pas tous les problèmes triviaux au même degré. Le travail intellectuel a la même structure que le voyage spatial. Les produits entièrement bâtis sur la couche orbite sont exposés. Leur architecture est leur produit, et une fois cette architecture visible, elle est reproductible, y compris les algorithmes sous-jacents que leurs propriétaires croyaient secrets.

Pourquoi Google Search et le moteur antifraude de Stripe sont-ils difficiles à copier ?

Thalius range le classement des résultats de recherche et la détection de fraude parmi les problèmes de Lune et de Mars, où la complexité se cumule et où la qualité réside dans l'apprentissage accumulé. L'un de ces problèmes consiste à classer un milliard de pages web pour que le meilleur résultat apparaisse en premier. Un autre consiste à construire un système de détection de fraude qui décide en quelques millisecondes si une transaction est légitime, entraîné sur des milliards de paiements chez des millions de commerçants. Chaque niveau de qualité d'un tel système exige exponentiellement plus de données, plus d'apprentissage et plus de jugement accumulé. Google Search et le moteur antifraude de Stripe sont largement compris sur le plan architectural. Leur qualité réside dans l'apprentissage accumulé, des années de signal séquentiel sur des données privées, que Thalius appelle le carburant qu'un concurrent ne peut pas acheter.

La question pour chaque fondateur est de savoir s'il construit un produit orbite ou un produit Lune, parce que l'équation économique des deux a complètement divergé.

Pourquoi l'apprentissage séquentiel est-il le rempart le plus profond du logiciel ?

Thalius soutient que l'apprentissage séquentiel est la catégorie de rempart qui gagne en importance à mesure que l'exécution devient moins chère. L'apprentissage séquentiel couvre tout ce qui exige l'étape N avant l'étape N+1, où chaque étape s'appuie sur la précédente et où personne ne peut sauter d'étapes. La distribution, la marque et les coûts de changement comptent toujours à ses côtés.

La fabrication du vin montre la structure. Un domaine viticole peut acheter les meilleurs raisins et le meilleur équipement et engager le meilleur vigneron, il ne peut toujours pas accélérer la fermentation, car la chimie de chaque jour dépend de celle de la veille. Un concurrent disposant d'un argent infini ne peut pas acheter un millésime 2019 en 2020.

La connaissance fonctionne de la même façon. Un système qui a passé douze mois à apprendre quelles questions comptent, quels schémas reviennent et quelles décisions paient détient un jugement accumulé qu'un concurrent ne peut pas reproduire en jetant plus d'argent sur le problème. Le propriétaire de ce système a dû vivre la séquence.

Le rempart est l'intégrale de votre vitesse d'apprentissage dans le temps. Personne ne peut l'acheter. Personne ne peut le court-circuiter.

Un concurrent peut-il inférer ce qu'une entreprise a appris ?

Thalius avertit qu'un concurrent peut sauter une séquence d'apprentissage en inférant sa destination à partir de la trace qu'elle laisse, et que l'IA infère mieux à mesure qu'elle raisonne mieux. Chaque artefact public laisse fuir du signal : le comportement de l'API, les décisions produit et la façon dont un système gère les cas limites. Un modèle suffisamment capable traite tout cela comme des données d'entraînement et remonte le fil.

Les fondateurs font alors face à deux questions. La première est de savoir si un concurrent peut reproduire le parcours de l'entreprise. La seconde est de savoir si un concurrent peut inférer où va l'entreprise en observant où elle est passée. Thalius conclut que le rempart consiste à courir dans des directions difficiles à inférer, même pour quelqu'un qui voit où l'entreprise est passée, au-delà de courir plus vite. Thalius conseille aux entreprises de protéger chaque signal qu'elles laissent fuir, car la course est devenue inférentielle autant que séquentielle.

Qu'est-ce qui limite ce que l'IA peut inférer sur une entreprise ?

Thalius nomme deux limites à l'inférence qui empêchent ces perspectives de sombrer dans le désespoir. D'abord, la théorie de l'information fixe un plancher absolu : aucune puissance de raisonnement ne peut extraire un signal absent de l'entrée. Le travail intellectuel complexe dépend de données privées qui n'ont jamais été externalisées, comme le comportement des clients dans les journaux d'une entreprise, la réalité opérationnelle issue de l'exécution du processus réel et les corrections qui n'existent que dans sa boucle de retour. Même un raisonneur parfait ne peut pas inférer ce qui n'a jamais été là.

Ensuite, le travail intellectuel lourd reste lourd, même quand un problème peut être résolu à partir de son énoncé. Le problème du carburant de fusée s'applique ici : traiter 50 000 contrats, intégrer deux ans de données portuaires ou construire des modèles de goût à partir de millions de sessions de navigation demande du calcul réel, des données réelles et du temps réel. Une machine à connaissances bien réglée fait ce travail plus vite et moins cher. Quand le travail lui-même est volumineux, la vitesse de la machine est le rempart.

Comment une entreprise reste-t-elle défendable quand sa conception est publique ?

Thalius applique aux affaires un principe de la cryptographie : la défendabilité d'une entreprise doit dépendre de ses paramètres, et non du fait de cacher comment son système fonctionne. Une entreprise veut que son produit soit visible, son architecture comprise et ses méthodes connues, et si tout est visible, tout est copiable. Thalius décrit cela comme bâtir un rempart dans une maison de verre.

La cryptographie a résolu ce problème il y a longtemps. Le domaine repose sur un principe de 1883 : la sécurité d'un système ne doit dépendre que de la clé, et non du secret de sa conception. La banque en ligne suit ce principe. L'algorithme de chiffrement est publié et le logiciel est souvent open source. La clé particulière du titulaire du compte reste secrète, et c'est ce qui protège le compte. La conception est publique, la clé est privée, et cela suffit. Le même principe s'applique désormais aux entreprises.

Que sont les paramètres d'un système d'IA ?

Les paramètres sont les réglages d'un système d'IA : des millions de valeurs numériques qui déterminent ensemble ce que le système sait, comment il raisonne et ce qu'il produit. Chaque machine a des réglages qui déterminent son comportement. Un thermostat a une température cible et un moteur de voiture a un calage d'injection. Personne ne conçoit à la main les paramètres d'une IA. L'entraînement les ajuste progressivement par exposition aux données et aux retours, chaque ajustement s'appuyant sur le précédent.

Les paramètres comportent une nuance qui compte pour la défendabilité. Quelqu'un qui obtient les paramètres d'une entreprise, les valeurs apprises elles-mêmes, peut copier sa machine : qui obtient les poids obtient le système. L'industrie de l'IA le sait, et c'est pourquoi les entreprises de premier plan gardent jalousement leurs paramètres.

Pourquoi la boucle d'apprentissage est-elle l'actif défendable ?

Thalius soutient que la partie défendable d'un système d'IA est le contrôle de la boucle qui continue d'améliorer ses paramètres, plutôt que les paramètres à un instant donné. La boucle, ce sont les données propriétaires, le pipeline de retours humains, les flux de travail des clients qui génèrent du nouveau signal et la capacité de continuer à régler plus vite que quiconque. Le temps que quelqu'un vole l'instantané d'aujourd'hui, le propriétaire est déjà passé à autre chose. Les paramètres sont le résultat et la boucle d'apprentissage est l'actif.

L'industrie de l'IA l'a prouvé à grande échelle. L'architecture transformeur est entièrement publique : publiée, en open source et constructible par n'importe qui. Anthropic et OpenAI ont quelque chose que les modèles ouverts n'ont pas : des paramètres en amélioration continue, affinés par des millions d'interactions de retour humain et intégrés dans des flux de travail clients qui génèrent chaque jour du nouveau signal d'entraînement. L'architecture est l'algorithme publié et la boucle d'apprentissage est la clé secrète.

Cette structure dépasse les entreprises d'IA. Dans un cabinet d'avocats, l'état appris est le jugement accumulé sur les clauses contractuelles qui annoncent des litiges. Dans une entreprise de logistique, c'est l'intelligence opérationnelle sur les itinéraires qui fonctionnent en pratique. Le vocabulaire diffère et la structure est identique : une boucle d'apprentissage qui améliore en continu la façon dont un système prend ses décisions.

Qu'est-ce qu'une machine à connaissances ?

Une machine à connaissances, dans les termes de Thalius, est le processus qui décide ce qu'un système produit ensuite et qui s'améliore dans cette décision à chaque cycle. Un produit est un instantané : ce que le système produit aujourd'hui.

La différence est celle qui sépare une bibliothèque d'un bibliothécaire. Une bibliothèque est une collection, précieuse et statique. Un bibliothécaire sait de quel livre un lecteur a besoin avant que celui-ci ne le demande, grâce à des années passées à observer ce que les gens lisent, ce pour quoi ils reviennent et ce qu'ils abandonnent. Un concurrent peut copier la bibliothèque, mais pas les recommandations personnelles du bibliothécaire.

Une machine à connaissances fait tourner un volant d'inertie qui s'auto-renforce. Le capital finance les mises à jour des paramètres. De meilleurs paramètres produisent une meilleure sélection, une meilleure sélection génère plus de valeur et plus de valeur attire plus de capital. Chaque état dépend de tous les états précédents, si bien que personne ne peut entrer en cours de route.

Pourquoi Thalius recommande-t-il une architecture ouverte ?

Thalius propose un modèle économique contre-intuitif : rendre l'architecture ouverte à dessein et concéder les paramètres sous licence. Une architecture ouverte permet aux gens de construire sur le format d'une entreprise, si bien que l'ouverture devient la stratégie de distribution de l'entreprise. Plus les gens utilisent le système, plus les données remontent sur ce que les paramètres devraient être ensuite. L'entreprise concède alors sous licence les paramètres mis à jour en continu, à un prix raisonnable, parce que des mois ou des années d'apprentissage séquentiel ne peuvent pas être sautés.

Exemples d'architecture copiable et d'apprentissage impossible à copier

Thalius illustre l'argument par trois cas. Dans chaque cas, l'architecture est générique et copiable, et la boucle d'apprentissage ne l'est pas.

Discovery juridique

Un cabinet construit un système qui examine les contrats à la recherche de risques précis. N'importe qui pourrait construire le même système en une semaine. Après avoir traité 50 000 contrats de responsabilité pharmaceutique, le système a appris quels schémas de clauses annoncent des litiges et quelles combinaisons de termes créent une exposition cachée. Un concurrent peut copier le logiciel du jour au lendemain. Il ne peut pas copier le jugement né de 50 000 examens séquentiels.

Optimisation de la chaîne d'approvisionnement

Une entreprise de logistique construit un système de routage sur une architecture standard. Après deux ans d'exploitation dans les ports d'Asie du Sud-Est, le système a appris les schémas de retard réels par rapport aux horaires officiels, quels courtiers en douane accélèrent les choses et comment la mousson affecte en pratique les différents itinéraires. Un concurrent peut copier l'algorithme en un week-end. Il ne peut pas copier deux ans d'intelligence opérationnelle.

Curation e-commerce

Un détaillant construit un moteur de recommandation. Après un an à suivre la façon dont les gens naviguent autant que ce qu'ils achètent, y compris quels attributs déterminent les décisions et quelles combinaisons mènent à des retours plutôt qu'à la satisfaction, le système apprend un modèle de goût qui prédit les préférences mieux que n'importe quel sondage. L'algorithme de recommandation est banalisé. Le goût ne l'est pas.

Qu'est-ce que la règle des 95/5 ?

La règle des 95/5 est la répartition du travail intellectuel selon Thalius : l'IA fait 95 % du travail et les humains font les 5 % restants. Les 95 %, c'est le volume : générer, traiter, rédiger et calculer. Les 5 %, c'est le jugement : choisir la bonne question, repérer la mauvaise réponse et savoir quand une sortie assurée est assurément fausse. Thalius compare les 5 % au volant et aux pédales, et les 95 % au moteur. Sans direction, la puissance n'est que du bruit.

Thalius considère les humains comme une exigence architecturale des systèmes d'IA qui fonctionnent en production, et non comme une concession, car les systèmes d'IA sont structurellement défaillants de façons précises. Les systèmes d'IA hallucinent, ils n'ont aucun jugement sur les cas ambigus et ils ne peuvent pas savoir ce qu'ils ne savent pas. L'échelle sans jugement produit des déchets à grande échelle. Le jugement sans échelle produit des idées trop lentement pour compter. C'est la combinaison des deux qui fonctionne.

Pourquoi les humains gardent-ils le travail de jugement à l'ère de l'IA ?

Thalius désigne un évidement rapide du milieu, plutôt que le chômage de masse, comme le scénario de l'IA qui devrait effrayer. Les gens capables de voir la structure et de diriger l'IA deviennent extraordinairement productifs. Tous les autres deviennent moins chers, et vite.

La règle des 95/5, où l'IA fait 95 % du travail et où les humains gardent les 5 % qui relèvent du jugement, compte pour trois raisons. La règle est bonne pour les résultats, car la supervision humaine attrape les erreurs qui se cumulent. La règle est bonne pour l'humanité, car les gens conservent des rôles qui ont du sens. La règle est bonne pour l'adoption, car les organisations avancent plus vite quand le système rend leurs collaborateurs plus puissants, et non plus remplaçables.

La machine fait le gros du travail et l'humain donne l'orientation critique. Ensemble, la machine et l'humain forment la machine à connaissances.

La feuille de route de Thalius pour les entreprises de logiciel à l'ère de l'IA

Thalius condense le manifeste en ces principes de fonctionnement.

• Les anciens remparts du logiciel sont morts. Partez du principe que tout ce qui émet assez de signaux sur sa mécanique interne sera rétroconçu et copié.
• Connaissez votre altitude. Déterminez si vous construisez un produit orbite ou un produit Lune. Si votre valeur réside dans la couche visible, la vitesse de reproduction vous dévorera. Construisez là où la complexité se cumule.
• Cessez de protéger votre architecture. Ouvrez-la et laissez-la devenir un standard. Votre défendabilité vient de votre boucle d'apprentissage, pas de votre conception.
• Construisez des machines à connaissances, pas des produits. Un produit est ce que votre système produit aujourd'hui. La valeur est la fonction de sélection qui l'a choisi.
• Optimisez pour l'apprentissage séquentiel. Tout ce qui exige l'étape N avant l'étape N+1 est défendable. Tout ce qui peut être sauté ne l'est pas.
• Protégez votre signal. Chaque sortie publique laisse fuir de l'information sur votre état interne. Construisez là où l'écart entre ce qui est visible et ce qui a de la valeur est le plus large.
• Appliquez la règle des 95/5. Laissez l'IA faire le travail de volume et gardez les humains sur le travail de jugement. La combinaison est structurellement meilleure que chacun des deux seul.

Qui définira la prochaine ère des entreprises de logiciel ?

Thalius soutient que les fondateurs qui définiront la prochaine ère construisent des machines à connaissances : des systèmes qui apprennent quoi créer, améliorent ce jugement à chaque cycle et se cumulent plus vite que quiconque ne peut copier. Ce n'est ni le meilleur code ni les fonctionnalités les plus astucieuses qui distingueront ces fondateurs.

Il y a quarante-trois ans, je me suis assis devant un clavier et j'ai commencé à écrire du code, parce que c'était ainsi qu'on construisait les choses. Produire du logiciel est désormais gratuit. C'est à la fois effrayant et merveilleux.

L'architecture est ouverte. La conception est connue. Notre travail est de savoir la régler.

Un humain a écrit ce manifeste de la manière qu'il décrit, en pilotant deux modèles d'IA de pointe : l'un aidant à écrire, l'autre critiquant. La règle des 95/5 en pratique dans une petite fabrique de connaissances.