Ancien vice-président de la recherche d'OpenAI : il reste 2 ans aux chercheurs humains, la recherche en IA s'automatise rapidement

Il ne reste que deux ans aux humains pour continuer à jouer un rôle important dans les découvertes de la recherche en IA. Ensuite, l'ensemble du cycle de R&D en IA, de la formulation d'hypothèses à la validation, sera entièrement automatisé. Copier aveuglément les modèles Transformer des grandes entreprises technologiques est un « jeu perdu d'avance », et le goulot d'étranglement actuel pour faire progresser la technologie de l'IA réside précisément dans l'architecture elle-même. À l'avenir, non seulement les laboratoires d'IA, mais toutes les grandes entreprises évolueront vers une automatisation complète.

Dans le domaine actuel de l'intelligence artificielle, les chercheurs sont confrontés à un déchirement sans précédent : d'un côté, une technologie qui progresse à pas de géant ; de l'autre, une fatigue extrême due à un code et des expériences sans fin.

« On entend souvent les chercheurs en IA répéter cette phrase : “Il ne nous reste que quelques jours de travail, alors profitons-en au maximum tant que nous le pouvons, après on pourra tous nous reposer.” » Jerry Tworek, ancien vice-président de la recherche chez OpenAI, a lancé ce point de vue teinté d'humour noir lors d'une récente interview.

Selon lui, ce n'est pas une simple plaisanterie. Avec l'avènement de l'ère des agents natifs (agent-native), l'IA elle-même prend rapidement en charge le travail de R&D. « J'estime grossièrement qu'il reste au moins deux ans aux chercheurs humains pour continuer à jouer un rôle important dans le processus de découverte de la recherche en IA. »

Après avoir quitté OpenAI, où il a travaillé sept ans, Jerry a fondé Core Automation. Son ambition ne se limite pas à développer le prochain grand modèle de langage, mais à reconstruire le paradigme de fonctionnement des entreprises spécialisées en IA — utiliser l'IA pour développer l'IA et créer des « laboratoires d'IA de troisième génération » entièrement automatisés.

Points clés de l'interview :

Compte à rebours pour les chercheurs humains : Il ne reste que deux ans aux humains pour continuer à jouer un rôle important dans les découvertes de la recherche en IA. Ensuite, l'ensemble du cycle de R&D en IA, de la formulation d'hypothèses à la validation, sera entièrement automatisé.

Montée des laboratoires d'IA de troisième génération : Contrairement à DeepMind/OpenAI à ses débuts (axés sur la recherche pure) et aux laboratoires post-GPT-3 (axés sur le passage à l'échelle de la puissance de calcul), les laboratoires de troisième génération placent l'« automatisation » au premier plan. En utilisant des agents d'IA à faible coût pour remplacer les humains dans l'exécution d'expériences complexes et l'écriture de code, le cycle de R&D peut être ramené de plusieurs mois à une journée.

Défier l'hégémonie du Transformer : Copier aveuglément les modèles Transformer des grandes entreprises technologiques est un « jeu perdu d'avance », et le goulot d'étranglement actuel pour faire progresser la technologie de l'IA réside précisément dans l'architecture elle-même. La nouvelle génération de laboratoires utilise des agents de programmation pour explorer à partir de zéro de nouvelles architectures autrefois mises de côté en raison de « coûts d'essais et d'erreurs extrêmement élevés », avec pour objectif de nouveaux modèles capables d'apprendre au moment du test (test time).

Révélations sur les modèles o1/o3 : L'apprentissage par renforcement (RL) à grande échelle est une étape indispensable vers l'AGI. Ilya Sutskever avait prédit avec précision la feuille de route dès 2019. La percée de la série o (modèles de raisonnement) est le fruit de plusieurs années d'exploration fondamentale par l'équipe de recherche, ainsi que de décisions décisives de la direction (comme Jakub Pachocki) pour affecter massivement la puissance de calcul à des moments clés.

L'« IA d'entreprise » comme produit ultime : À l'avenir, non seulement les laboratoires d'IA, mais toutes les grandes entreprises évolueront vers une automatisation complète. Dans l'ère « post-travail » où le travail répétitif est éliminé, les humains auront plus de temps pour poursuivre la grandeur spirituelle et physique.

Compte à rebours de deux ans : les laboratoires d'IA de troisième génération disent adieu à l'« exécution manuelle »

Jerry Tworek divise le développement des laboratoires d'IA en trois étapes.

La première génération, représentée par DeepMind et OpenAI à ses débuts, est née avant que la « faisabilité de l'IA à grande échelle » ne soit validée, et était purement axée sur la recherche avec pour objectif l'AGI ; la deuxième génération est née après la publication de GPT-3, lorsque la loi de mise à l'échelle s'est avérée efficace et que les laboratoires ont commencé à rivaliser frénétiquement pour la puissance de calcul, tentant de produire de l'intelligence par la mise à l'échelle (représentée par Anthropic, etc.).

Et maintenant, nous assistons à l'émergence de la troisième génération de laboratoires d'IA — qui tentent de placer l'« automatisation » au premier plan.

Dans la R&D traditionnelle en IA, formuler des hypothèses, écrire du code, mener des expériences à petite échelle, puis mobiliser des dizaines de personnes pendant des mois pour passer à l'échelle, est un processus extrêmement coûteux et générateur de frictions.

« À bien des égards, notre approche actuelle est la suivante : les chercheurs humains restent responsables de la production d'idées et de l'orientation, mais le rôle des agents est de simplifier autant que possible le processus d'exécution. » Jerry souligne que, bien que les agents actuels ne soient pas encore doués pour l'exploration ouverte ou la formulation d'hypothèses extrêmement précises, leur capacité d'exécution est sans faille dès que les instructions sont claires.

« Si nous pouvons réduire le temps d'expérimentation d'un mois à une journée, c'est une accélération de 30 fois. » Jerry prédit que dans deux ans, l'ensemble du cycle de recherche en IA — de la génération d'idées à la validation des données — sera entièrement automatisé. Les humains n'y joueront plus un rôle décisif, comme c'est le cas aujourd'hui dans les compétitions d'échecs.

Éviter la course à la puissance de calcul et briser la « domination décennale » du Transformer

Actuellement, presque toutes les grandes entreprises technologiques se livrent à une course à la puissance de calcul sur l'architecture Transformer. Mais selon Jerry, pour les laboratoires émergents (NeoLabs), suivre aveuglément est une catastrophe.

« Embaucher simplement un groupe de chercheurs et dire “nous allons entraîner des modèles Transformer comme OpenAI et Anthropic et essayer de rivaliser avec eux” est une très mauvaise stratégie. C'est un jeu perdu d'avance. »

Il souligne que, limitées par les incitations économiques et les coûts élevés d'essais et d'erreurs, les grandes entreprises technologiques ont tendance à suivre la voie la plus sûre du passage à l'échelle. Mais l'expérience historique montre que toute technologie à ses débuts subit des bouleversements profonds. « Le goulot d'étranglement actuel pour un développement et un progrès plus rapides de la technologie de l'IA réside précisément dans l'architecture elle-même, c'est-à-dire le Transformer que nous utilisons depuis tant d'années. »

Pourquoi personne n'a-t-il réussi à remplacer le Transformer au cours de la dernière décennie ? La réponse de Jerry : les coûts d'essais et d'erreurs sont trop élevés.

Dans le passé, pour tester une nouvelle architecture, le code était extrêmement difficile à écrire. Même si elle fonctionnait à petite échelle, passer à l'échelle nécessitait des autorisations de puissance de calcul et des ressources d'équipe très élevées. De nombreuses idées innovantes ont ainsi été étouffées dans les lourdeurs bureaucratiques interminables, ou submergées par la dynamique existante du Transformer.

Mais la situation a changé. « Écrire du code est devenu considérablement moins cher et plus facile, ce qui pourrait être une opportunité unique. » Grâce à des agents de programmation IA à faible coût, Core Automation tente d'explorer à partir de zéro des pistes architecturales autrefois abandonnées. Leur objectif « étoile polaire » est clair : créer des modèles à nouvelle architecture capables d'apprendre au moment du test (test time) et à partir des interactions avec les utilisateurs.

Premières révélations sur la percée o1/o3 : le miracle de l'apprentissage par renforcement et de la puissance de calcul

En tant que développeur principal de la série o d'OpenAI (modèles de raisonnement), Jerry a également évoqué pour la première fois dans l'interview l'histoire derrière cette percée révolutionnaire.

Dès le début de 2019, Ilya Sutskever avait décrit avec précision la feuille de route vers l'AGI lors d'une assemblée générale : « Nous devons entraîner un énorme modèle génératif avec toutes les données disponibles, puis nous devons l'entraîner avec l'apprentissage par renforcement (RL). »

La direction était claire, mais le chemin d'exécution a été long et semé d'embûches. Jerry révèle que lorsque GPT-3 a commencé à être entraîné, sa première réaction a été de savoir comment l'utiliser pour l'apprentissage par renforcement. La première version de Codex était le résultat expérimental de la combinaison d'un grand modèle de langage et de l'apprentissage par renforcement. Cependant, limitée par les données, les algorithmes et la configuration expérimentale, l'équipe n'a pas pu l'étendre efficacement pendant longtemps.

« Ces choses se préparaient en arrière-plan. Pendant longtemps, les tentatives n'ont pas produit de gains significatifs. »

Le tournant est venu d'un « signe de vitalité » et d'une décision décisive de la direction. Lorsque le modèle a finalement montré une lueur d'espoir sous l'apprentissage par renforcement, le scientifique en chef Jakub Pachocki a saisi l'opportunité avec acuité : « Jerry, nous avons maintenant ces GPU. Voyons si nous pouvons commencer à étendre cela, si nous pouvons renforcer les résultats existants. »

Dans les laboratoires d'IA où la puissance de calcul est rare, le dilemme de « la poule ou l'œuf » (d'abord les résultats ou d'abord la puissance de calcul) est éternel. Mais c'est précisément l'allocation massive de puissance de calcul décidée par la direction (« allez-y, foncez ») qui a enflammé toute l'équipe.

« Cela nous a enthousiasmés au plus haut point. Nous avons déployé trois fois plus d'efforts pour réfléchir aux ensembles de données, aux systèmes et aux expériences nécessaires pour prouver que cela pouvait être étendu de manière durable. L'enthousiasme a produit des résultats expérimentaux, et les résultats ont créé une dynamique. » Finalement, en passant à l'échelle l'apprentissage par renforcement de plusieurs ordres de grandeur, les modèles de raisonnement o1 et o3 qui ont stupéfié l'industrie ont vu le jour.

Vision ultime : l'« IA d'entreprise » et l'utopie de l'ère post-travail

En parlant des futurs produits de Core Automation, le regard de Jerry va au-delà des simples modèles d'IA.

« Nous voulons faire de notre entreprise la plus automatisée au monde, et l'utiliser comme modèle. Nous voulons construire quelque chose comme un “cerveau de l'entreprise”, centralisant toutes les informations de l'entreprise, où les employés se connectent via des terminaux et deviennent des utilisateurs d'une IA d'entreprise. »

Interrogé sur l'avenir de l'humanité si toutes les entreprises, grandes et petites, finissaient par être entièrement automatisées, Jerry a esquissé une conception philosophique de l'ère « post-travail ».

Les grandes entreprises les plus bureaucratiques seront les premières à être automatisées, l'IA prenant en charge la transmission de l'information et l'optimisation des processus. Cela signifie que le travail manuel que l'humanité a dû accomplir pendant cent mille ans pour survivre touchera progressivement à sa fin. Si les mines peuvent fonctionner de manière autonome pour fournir des ressources, et si les logiciels peuvent se réparer eux-mêmes et développer de nouvelles fonctionnalités, les humains n'auront plus besoin de se forcer à « travailler » durement pour faire tourner le monde.

Mais cela ne signifie pas la fin absolue du travail. Jerry estime que l'accent sera mis à l'avenir sur l'« amélioration humaine » et la poursuite de la grandeur ultime.

« J'imagine un peu un monde où nous vivrions comme les philosophes de la Grèce antique, nous réunissant sur l'agora, discutant de philosophie toute la journée, faisant de l'exercice, et faisant ce que nous voulons. Les humains devraient s'efforcer d'être grands physiquement et spirituellement, comme dans le sport professionnel aujourd'hui : il n'y a aucune raison économique de le faire, mais nous nous efforçons d'atteindre la grandeur. C'est la partie la plus importante pour nous. »

Alors que le compte à rebours de deux ans s'écoule, qu'il s'agisse des chercheurs en IA ou de tous les gens ordinaires emportés par la vague de l'économie du savoir, il est peut-être temps de repenser la définition du « travail ».