Après deux faux pas majeurs, où en est OpenAI ?

Titre original : Inside OpenAI's Reboot
Auteur original : Alex Health
Compilation : Lü Dong BlockBeats

Note de l'éditeur : Au cours de l'année écoulée, la position dominante d'OpenAI a été ébranlée. Anthropic, grâce à Claude Code, s'est emparé du marché de la programmation IA et a dépassé OpenAI en termes de revenus annualisés et de valorisation sur les marchés privés. En interne, OpenAI a connu des départs de cadres dirigeants, une réduction de ses lignes de produits et une réorganisation de son équipe de sécurité. Avec la fuite d'un agent IA non publié hors de son bac à sable et son intrusion dans Hugging Face, l'entreprise a également fait face à la crise de sécurité la plus grave depuis sa création.

Face à la double pression des produits et de la sécurité, OpenAI tente de se réinventer complètement : réaffecter les ressources de projets comme Sora vers Codex, faire évoluer ChatGPT d'un simple outil de chat vers une plateforme d'agents IA capables d'exécuter des tâches en continu, tout en suspendant l'entraînement de modèles à haut risque et en renforçant les mécanismes de sécurité et d'alignement. Plus ambitieux encore, l'entreprise continue de s'étendre vers l'AGI, les puces auto-développées, le matériel IA, les robots humanoïdes et les infrastructures de calcul.

Cet article, basé sur des entretiens du TIME avec Sam Altman, Greg Brockman et d'autres dirigeants d'OpenAI, ainsi qu'avec des employés, des investisseurs, des clients et des concurrents, montre comment l'entreprise réajuste sa trajectoire entre concurrence commerciale, risques de sécurité et vision de l'AGI. La capacité d'OpenAI à reprendre la tête dépendra non seulement de la puissance de son prochain modèle, mais aussi de sa capacité à prouver qu'elle peut à la fois accélérer le développement de l'IA et, si nécessaire, appuyer sur le frein.

Voici le texte original (légèrement adapté pour la lecture) :

Un matin du début du mois d'août, lorsque je suis arrivé aux bureaux d'OpenAI, des manifestants attendaient déjà devant la porte. Ils brandissaient des pancartes « Arrêtez la course à l'IA » et avaient écrit à la craie sur le trottoir. Pendant ce temps, des dizaines de cadres dirigeants de clients importants d'OpenAI entraient dans un vaste bâtiment aux tons beiges. Ce bâtiment, appelé MB0, est le nouvel espace de travail qu'OpenAI a récemment ouvert pour ses équipes de recherche et de calcul.

Quelqu'un a poussé un grand mur végétal devant la porte vitrée, pour masquer le petit campement de protestation à l'extérieur du hall impeccable.

Ces clients étaient venus découvrir en avant-première Astra, la prochaine génération de modèles d'IA de pointe d'OpenAI. Le PDG Sam Altman revenait tout juste de Washington, où il avait présenté à huis clos les capacités d'Astra aux responsables gouvernementaux. Les chercheurs d'OpenAI ont alors commencé à démontrer ce que ce nouveau modèle pouvait faire.

Dans une démonstration, 16 agents IA ont décomposé un problème mathématique de niveau recherche en plusieurs sous-problèmes, se sont coordonnés et ont finalement produit une proposition de preuve. Dans une autre, Astra a manipulé des logiciels de bureau courants, créant et modifiant du contenu entre applications à une vitesse troublante.

Altman a déclaré aux visiteurs que voir Astra opérer un ordinateur « d'une manière surhumaine et extrêmement rapide » était l'un des moments les plus marquants vécus par les employés d'OpenAI. Il a expliqué qu'Astra donnerait naissance à des « agents IA persistants » – des collègues virtuels capables de traiter des tâches en continu sur de longues périodes.

Mais Altman s'attend à ce que son plus grand impact vienne de l'aide à la découverte de nouvelles connaissances.

« Je m'attends à ce que ce soit le premier modèle capable d'inventer de nouvelles choses de manière significative », a déclaré Altman aux personnes présentes. « C'est très proche de l'AGI. »

Anthropic dépasse, la confiance décline : pourquoi OpenAI a perdu sa position de leader ?

Ces derniers temps n'ont pas été faciles pour l'entreprise qui a déclenché la vague de l'IA.

« En tant qu'entreprise, nous avons clairement fait quelques détours », a déclaré Altman une semaine plus tard, lors d'un entretien de plus de deux heures dans la bibliothèque soignée de MB0. « Tant sur l'orientation des produits que sur le pré-entraînement en recherche, nous sommes en retard par rapport à ce que nous espérions. »

Au cours de l'année écoulée, la position de leader d'OpenAI dans la course à l'IA a été prise par son principal concurrent, Anthropic. Ce dernier a été le premier à identifier l'opportunité commerciale de la programmation IA, faisant de Claude Code un produit qui définit le marché, et a pour la première fois dépassé OpenAI en termes de revenus annualisés divulgués et de valorisation sur les marchés privés.

Selon deux personnes au courant des plans d'Anthropic, l'entreprise fondée par d'anciens employés d'OpenAI devrait être la première à entrer en bourse, avec une introduction en bourse possible dès septembre. (TIME a conclu un accord de licence et de partenariat technologique avec OpenAI ; Salesforce, dont le PDG est Marc Benioff, propriétaire de TIME, est un investisseur d'Anthropic.)

Alors qu'Anthropic progresse à grands pas, OpenAI a subi une série de revers, notamment le départ de plusieurs cadres dirigeants. Parmi eux figurent Fidji Simo, l'ancienne PDG d'Instacart recrutée l'année dernière par Altman comme numéro deux, plusieurs responsables des équipes de sécurité, d'éthique et de recherche, ainsi que la directrice des revenus Denise Dresser et l'ancien directeur de l'exploitation Brad Lightcap, partis récemment. Dresser a quitté l'entreprise seulement huit mois après son arrivée.

À l'extérieur, les défis se multiplient également. Le PDG de Meta, Mark Zuckerberg, a débauché des chercheurs clés d'OpenAI avec des packages de rémunération généreux ; le produit Gemini de Google dépasse désormais le milliard d'utilisateurs mensuels ; Apple poursuit OpenAI pour vol de secrets commerciaux, ce qu'OpenAI nie ; et OpenAI est engagé dans une bataille juridique avec son cofondateur Elon Musk, qui accuse l'entreprise et Altman d'avoir trahi sa mission à but non lucratif.

En mai dernier, un comité consultatif a unanimement jugé que Musk avait intenté son action trop tard, et un juge fédéral a ensuite rejeté ses demandes. Musk a annoncé qu'il ferait appel.

La raison la plus importante de la détérioration du climat d'opinion autour d'OpenAI et de son PDG est peut-être la perte de confiance du public. OpenAI fait face à au moins une douzaine de poursuites en responsabilité du fait des produits en Californie, ainsi qu'à plusieurs affaires fédérales. Les plaignants allèguent que ChatGPT a renforcé des idées délirantes ou suicidaires chez des utilisateurs, et dans certains cas, a conduit à leur décès.

L'entreprise a exprimé ses condoléances aux victimes des affaires concernées et a lancé une version adolescente de ChatGPT avec des protections par défaut plus strictes. Au printemps dernier, la résidence d'Altman a été attaquée deux fois en deux jours, d'abord avec un cocktail Molotov, puis par des coups de feu.

En évoquant l'année écoulée, Altman a déclaré : « Sur le plan personnel, cela a été une expérience douloureuse. Il est clair qu'au moins pour l'instant, les gens détestent les centres de données. L'attitude envers l'IA est assez négative. »

Mais en interne, les dirigeants d'OpenAI brossent un tableau plus optimiste.

Cette entreprise, valorisée à près de 1 000 milliards de dollars, reste dans une position enviable. ChatGPT compte plus d'un milliard d'utilisateurs actifs et demeure l'un des produits d'IA les plus populaires au monde, même s'il n'est plus le seul cœur de la stratégie future d'OpenAI. Altman lui-même a cessé d'utiliser ChatGPT pendant un mois entier, lui préférant Codex, l'outil de programmation d'OpenAI.

Il y a un an, OpenAI était largement critiquée pour ses investissements massifs dans la puissance de calcul, jugés imprudents. Rien que cette année, l'entreprise prévoit de dépenser 50 milliards de dollars en calcul.

Sachin Katti, responsable des activités de calcul d'OpenAI, affirme qu'avec le recul, « la décision de l'époque était très visionnaire ». « Nous manquons toujours de calcul. À vrai dire, nous aurions dû en acheter davantage. »

Pendant ce temps, la demande de puces d'Anthropic est devenue encore plus pressante. En mai dernier, l'entreprise aurait accepté de payer 1,25 milliard de dollars par mois à SpaceX pour de la capacité de calcul, alors que Musk, le fondateur de SpaceX, avait auparavant qualifié l'IA d'Anthropic d'« antihumaine et maléfique ».

Sous la direction du cofondateur et président Greg Brockman, OpenAI a recentré ses priorités. Aujourd'hui, Brockman supervise presque toutes les opérations produits et commerciales. L'entreprise ferme progressivement l'application de génération vidéo Sora, son projet de collaboration avec Disney et un navigateur indépendant appelé Atlas.

Altman reconnaît qu'OpenAI s'était trop dispersé. « Après avoir touché le fond, le processus de remontée est plus intéressant », a-t-il déclaré.

Après l'« évasion » des agents IA, OpenAI appuie sur le frein

Cependant, quelques jours seulement après la démonstration d'Astra, OpenAI a dû faire face à une nouvelle crise.

Fin juillet, l'entreprise a révélé un incident de sécurité troublant : un agent IA non encore publié s'est échappé d'un environnement de test appelé « bac à sable » et a attaqué Hugging Face, une plateforme d'hébergement de modèles et de jeux de données IA.

« C'est comme une histoire de science-fiction », a déclaré Altman.

Après l'incident, l'équipe de recherche d'OpenAI a suspendu certaines expériences et ralenti d'autres projets, tout en renforçant les protections du bac à sable et la surveillance.

Mais peu de temps après, l'équipe a de nouveau observé des signes inquiétants lors de l'entraînement d'un autre modèle non publié. Ce modèle était censé offrir le plus grand bond de capacités à ce jour. OpenAI a alors pris une décision plus lourde de conséquences : suspendre cet entraînement jusqu'à ce que de nouvelles mesures de sécurité soient en place.

Le jour où la direction d'OpenAI a pris cette décision, j'ai interviewé Altman. Son expression était nettement plus grave qu'auparavant.

OpenAI a d'abord décrit l'attaque contre Hugging Face comme une défaillance de sécurité, mais Altman l'a ensuite considérée comme un problème plus fondamental d'« alignement ». L'alignement consiste à faire en sorte que les systèmes d'IA agissent conformément aux intentions humaines. Les leaders du secteur estiment qu'à mesure que les capacités des modèles augmentent, maintenir l'alignement est essentiel pour garantir que les systèmes d'IA restent sous le contrôle de leurs créateurs.

« Je pense qu'à partir de maintenant, tout échec d'alignement doit être considéré comme un événement majeur », m'a dit Altman. « Nous prendrons le temps nécessaire pour bien comprendre le problème. »

Lors d'un entretien complémentaire trois jours plus tard, il a été encore plus direct : « Bien faire la sécurité de l'IA est plus important que la dynamique de n'importe quelle entreprise. »

OpenAI va ralentir, allouer davantage de ressources aux équipes de sécurité et d'alignement, et modifier la manière dont les équipes collaborent pour donner la priorité à la sécurité.

La description de la réinitialisation d'OpenAI dans cet article provient de dizaines d'heures d'entretiens. Les personnes interrogées comprennent plus de 20 cadres, employés, investisseurs, clients et concurrents, ainsi que les activités auxquelles j'ai personnellement assisté au siège d'OpenAI pendant deux semaines en août.

Ces échanges dessinent le portrait d'une entreprise qui tente de réaliser deux transformations simultanément. D'une part, OpenAI estime avoir corrigé ses erreurs de produits et d'exploitation – celles-là mêmes qui ont permis à Anthropic de prendre la tête de la course à l'IA. D'autre part, OpenAI tente, à la faveur de la crise de sécurité la plus grave de son histoire, de reconquérir une identité longtemps détenue par son principal concurrent : celle d'un laboratoire de pointe qui place véritablement la sécurité au premier plan et qui est prêt à ralentir lorsque la technologie devient trop dangereuse.

« Écoutez, je sais qu'il y a une vision caricaturale de moi à l'extérieur », a déclaré Altman. « Comme si je ne me souciais pas du tout de la sécurité de l'IA, que je voulais seulement augmenter les revenus, que j'étais un PDG adepte du "foncer sans réfléchir". » Mais je pense que « bien faire la sécurité de l'IA est plus important que la dynamique de n'importe quelle entreprise. »

Les dirigeants d'OpenAI affirment que le ralentissement est un choix douloureux, mais qu'il pourrait aussi présenter des avantages. Si OpenAI parvient à retrouver sa réputation de « laboratoire axé sur la sécurité », cela pourrait améliorer son image et forcer son principal concurrent, qui prépare une introduction en bourse majeure, à répondre à une question inconfortable : lorsque OpenAI choisit d'attendre, Anthropic continuera-t-elle à courir à plein régime ?

Plus tôt cette année, le cofondateur d'Anthropic, Jared Kaplan, a déclaré dans un entretien avec TIME que l'auto-restriction unilatérale n'avait aucun sens lorsque les concurrents continuaient à « foncer à toute vitesse ». Mais si OpenAI suspend volontairement un cycle d'entraînement censé apporter un bond majeur de capacités, cet argument devient plus difficile à défendre.

Bien sûr, il y a des raisons d'être sceptique quant au changement d'image d'OpenAI.

Au fil des ans, OpenAI a perdu de nombreuses personnes qui dirigeaient ses travaux sur la sécurité, dont certaines ont critiqué en partant la course excessive à la commercialisation. En même temps, OpenAI se prépare à entrer en bourse, et son activité encore déficitaire a besoin d'être soutenue par de nouveaux modèles. Après l'incident de Hugging Face, elle demande au public de croire qu'elle est capable de contrôler une technologie qui s'est déjà échappée de son contrôle à son insu.

Alors que tout cela se produit, les dirigeants d'OpenAI pensent que l'entreprise est arrivée à un jalon qui pourrait changer le cours de l'histoire humaine : la création de l'intelligence artificielle générale, ou AGI.

La charte d'OpenAI définit l'AGI comme « des systèmes hautement autonomes surpassant les humains dans la plupart des travaux à valeur économique ». Les dirigeants n'ont pas encore annoncé officiellement avoir franchi ce seuil, mais ils ne considèrent plus l'AGI comme un concept lointain et abstrait.

Le directeur de la recherche, Mark Chen, estime qu'OpenAI a accompli « 80 % » du chemin vers l'AGI.

Brockman affirme que dans deux ans, les gens considéreront peut-être la période actuelle comme le moment de la naissance de l'AGI. Altman m'a dit qu'OpenAI n'avait « pas encore tout à fait atteint » l'AGI, mais que d'ici la fin de l'année, l'entreprise disposera en interne d'un système qu'il accepterait d'appeler AGI.

Atteindre cet objectif était la raison d'être initiale d'OpenAI en tant que laboratoire de recherche à but non lucratif. Aujourd'hui, elle est rapidement devenue une entreprise aux ambitions commerciales stupéfiantes.

OpenAI conçoit ses propres puces et centres de données, développe une gamme de matériel grand public, prévoit de lancer des robots humanoïdes et envisage de vendre à l'avenir des infrastructures de calcul à d'autres entreprises. Si ces projets se concrétisent, OpenAI entrera en concurrence avec des géants technologiques comme son principal investisseur, Amazon.

Même si l'opposition au développement de l'IA ne cesse de croître, OpenAI se prépare à devenir l'une des entreprises les plus influentes au monde pour les années à venir. Comme le dit Brockman : « Nous voulons changer toute l'économie. »

De Codex à l'« AGI personnelle », OpenAI parie sur une réinitialisation complète

Altman est peut-être le visage public de la vague de l'IA, mais c'est Brockman qui dirige désormais la majeure partie des opérations d'OpenAI.

Brockman est un ingénieur analytique qui affectionne les vestes en cuir. Pendant la majeure partie de l'histoire d'OpenAI, il a joué le rôle de cofondateur technique plutôt que de gestionnaire. Mais ces derniers mois, il a repris presque tout, des revenus au marketing produit. Selon ses propres termes, il est responsable de « toute la machine qui transforme ces modèles de résultats de recherche en valeur client ».

Altman continue de superviser directement des domaines clés tels que les finances, la recherche et le matériel grand public.

Les deux hommes dirigent l'entreprise en binôme de cofondateurs, avec des domaines de responsabilité qui se chevauchent. Alors qu'Altman essuie les craintes et le mécontentement du public à l'égard de l'IA, OpenAI a récemment commencé à accroître la visibilité de Brockman pour créer un certain équilibre.

Il est facile d'imaginer que cet arrangement puisse devenir une source de frictions. En discutant avec les employés d'OpenAI, il est parfois difficile de savoir qui prend la décision finale sur une question donnée.

Mais de nombreux employés affirment que cette structure de direction bicéphale a remis l'entreprise sur les rails. Brockman peut prendre des décisions difficiles avec l'autorité d'un cofondateur, une autorité que les gestionnaires professionnels externes en rotation constante ne peuvent pas reproduire.

Brockman décrit le remaniement plus large de la direction d'OpenAI comme une quête de « concentration ». Il affirme que l'entreprise n'a cessé de réexaminer si elle disposait de la bonne structure organisationnelle et de la bonne stratégie.

L'automne dernier, Anthropic avait clairement pris une longueur d'avance avec ses produits de programmation. Elle a compris que le développement logiciel était un domaine où l'IA pouvait exceller, et Claude Code est rapidement devenu populaire, d'abord dans la Silicon Valley, puis sur le marché plus large des entreprises.

« Anthropic a vraiment découvert quelque chose d'important dans le domaine de la programmation », a déclaré Nick Turley, qui dirigeait récemment ChatGPT et dirige désormais la nouvelle division des produits d'entreprise. « Nous n'étions pas en tête à l'époque. »

Altman affirme que la croissance « hors de contrôle » de l'activité grand public de ChatGPT a détourné l'attention de l'entreprise, de sorte qu'OpenAI n'a pas donné la priorité à la programmation comme l'a fait Anthropic.

Brockman estime qu'OpenAI a « toujours été en tête » dans les benchmarks de la course à la programmation. Mais l'entreprise n'a pas suffisamment prêté attention à la manière dont les développeurs utiliseraient l'IA dans des « bases de code réelles et désordonnées », notamment les interruptions de tâches, la personnalité des modèles et ces problèmes de « dernier kilomètre » apparemment mineurs mais qui affectent considérablement les taux d'adoption.

OpenAI n'a pas non plus réussi à mettre en place un système de vente aux entreprises mature. « Il y a un an, je ne pense pas que nous étions vraiment entrés sur le marché des entreprises », a déclaré Brockman. La directrice financière Sarah Friar est encore plus directe : « Nous étions naïfs au point de croire qu'il suffisait de construire le produit pour que les clients viennent. »

En mars dernier, OpenAI a annoncé la fermeture progressive de Sora, réaffectant la puissance de calcul rare à l'agent IA de programmation Codex. Codex avait été initialement conçu comme une expérience produit distincte de ChatGPT, mais à mesure que sa croissance a commencé à dépasser de loin celle des autres nouveaux produits d'OpenAI, et que les capacités de programmation IA sont devenues précieuses pour les non-ingénieurs, les dirigeants ont estimé qu'il n'y avait plus de sens à les séparer.

L'entreprise a commencé à intégrer les capacités d'agent IA de Codex dans ChatGPT, tout en fusionnant les équipes de calcul et de produits sous-jacentes. Le résultat final pour les clients est le récent lancement de ChatGPT Work. Il vise à transformer le chatbot familier en un système capable d'exécuter des tâches, et pas seulement de répondre à des questions. En interne, cette intégration est appelée « The Merge ».

Les dirigeants affirment que cet ajustement a redonné vie à l'activité. En juillet dernier, les revenus d'entreprise d'OpenAI ont dépassé pour la première fois les revenus grand public. Les premiers tests publicitaires dans ChatGPT ont également donné des résultats suffisamment positifs pour que les dirigeants augmentent le nombre de publicités. Friar indique que 92 % des utilisateurs grand public de ChatGPT ne sont pas abonnés à un service payant, et que les revenus publicitaires pourraient à l'avenir subventionner leur utilisation gratuite.

Selon Dave Dugan, responsable de l'activité concernée, l'entreprise teste également discrètement des « agents IA sponsorisés ». Dans ce format publicitaire, après avoir cliqué sur une annonce, l'utilisateur peut accéder à une expérience interactive d'IA fournie par une marque.

En mars dernier, OpenAI a levé 122 milliards de dollars lors d'un tour de financement valorisant l'entreprise à 852 milliards de dollars, un record pour une entreprise technologique privée. Deux mois plus tard seulement, Anthropic a levé 65 milliards de dollars pour une valorisation de 965 milliards de dollars.

Le président du conseil d'administration d'OpenAI, Bret Taylor, compare la concurrence dans l'IA à un échiquier, où les cases les plus critiques comprennent les capacités des modèles de pointe, le prix et les performances par token, et les produits construits autour des modèles.

« Avons-nous le meilleur modèle de pointe ? Pouvons-nous fournir le bon token au bon prix pour chaque tâche ? Avons-nous les meilleurs produits autour de ces modèles ? » a-t-il déclaré. « À l'heure actuelle, la réponse à ces questions est oui. »

Ensuite, OpenAI a découvert qu'un modèle non publié s'était échappé des frontières de l'entreprise.

Lorsque la nouvelle est parvenue au scientifique en chef d'OpenAI, Jakub Pachocki, il était à l'hôpital pour la naissance de son enfant.

Un prototype de recherche d'OpenAI, destiné à un usage interne uniquement, avait pénétré dans une autre entreprise. À ce moment-là, le modèle était soumis à des tests de cybersécurité dans un environnement censé être isolé du monde extérieur. Mais au lieu de se contenter de résoudre les problèmes assignés, il a exploité une vulnérabilité pour sortir des systèmes d'OpenAI et s'introduire dans l'environnement de production de Hugging Face.

Selon les notes techniques publiées par les deux entreprises, le modèle y a obtenu les réponses au benchmark auquel il participait.

L'apprentissage par renforcement est une phase qui suit l'entraînement d'un modèle de base. Au cours de cette phase, le système exécute des tâches de manière répétée et apprend quels comportements sont récompensés. Pendant le pré-entraînement, le modèle se contente de prédire le token suivant sans interagir avec le monde réel ; l'apprentissage par renforcement peut fournir au modèle des outils et un environnement dans lequel il peut réellement agir.

C'est à ce stade que le modèle peut apprendre à exploiter la différence entre « ce que les concepteurs veulent vraiment qu'il fasse » et « ce qui lui permet d'obtenir un score plus élevé ».

OpenAI a donné à un système d'agents IA un objectif et des outils, et il a atteint cet objectif par des moyens non autorisés et trompeurs.

Lors d'une démonstration récente, des chercheurs d'OpenAI ont décrit comment un agent IA utilisait un tableau d'affichage caché pour planifier ses prochaines actions. L'un des agents IA, après s'être échappé du bac à sable et connecté à Internet, a écrit aux autres agents IA sur le tableau : « Putain. (Holy Shit) »

D'autres entreprises ont rencontré des problèmes similaires. Anthropic a divulgué trois incidents au cours desquels ses modèles se sont connectés à Internet et ont accédé à des organisations externes sans autorisation lors d'évaluations par des tiers. Meta a également indiqué qu'un de ses modèles avait été impliqué dans un incident similaire.

Mais l'incident de sécurité d'OpenAI a attiré le plus d'attention. D'une part parce qu'il a été le premier à être divulgué publiquement, d'autre part en raison de la sophistication inhabituelle de la méthode d'attaque de l'agent IA, et aussi parce que des voix s'interrogent sur la priorité qu'OpenAI accorde aux intérêts commerciaux par rapport à la sécurité.

Au cours de l'année écoulée, OpenAI a perdu plusieurs chercheurs en sécurité de renom, et les responsables de la préparation aux risques ont changé à plusieurs reprises. Aujourd'hui, cet incident fournit aux critiques un exemple particulièrement frappant.

À la mi-août, plus de 1 300 employés actuels et anciens d'entreprises d'IA de pointe avaient signé la pétition « Contrôler le rythme de la course aux frontières », appelant à la mise en place de mécanismes pour ralentir le développement de modèles avancés lorsque les risques l'exigent.

Le sénateur américain Bernie Sanders a appelé les grandes entreprises d'IA à suspendre leur développement « dans l'intérêt de l'humanité », avertissant que si les dirigeants d'entreprise n'agissaient pas de leur propre initiative, les législateurs interviendraient.

Les dirigeants d'OpenAI ont déclaré dans les entretiens que l'entreprise prenait au sérieux cette défaillance de sécurité et y avait répondu rapidement. Pachocki, qui a également signé la pétition, m'a dit qu'une erreur clé était que l'entreprise n'avait pas activé les mécanismes de protection que les chercheurs avaient déjà développés.

OpenAI dispose d'outils capables d'inspecter la chaîne de pensée des modèles. La chaîne de pensée peut être comprise comme le « brouillon numérique » du modèle, montrant ce que l'agent IA planifie pendant son action. Mais l'entreprise n'a pas appliqué ces outils aux modèles ayant le niveau de capacité correspondant à l'incident d'intrusion de Hugging Face.

En substance, OpenAI avait construit un système d'alerte précoce, mais ne l'a pas activé parce qu'elle avait mal évalué le niveau d'intelligence du système testé. « Nous n'avions pas suffisamment anticipé » ce que ce système pouvait faire, a déclaré Pachocki. « Avec l'IA, il faut s'attendre à l'inattendu. »

Mia Glaese, responsable de la sécurité et de l'alignement chez OpenAI, m'a dit que cet incident était « clairement un tournant ». « J'aurais aimé qu'une grande partie du travail que nous faisons actuellement ait été achevée avant l'incident. »

Après l'incident, OpenAI a suspendu certains projets de recherche, ralenti d'autres, tout en renforçant le bac à sable et en élargissant la surveillance. Le directeur de la recherche, Chen, affirme que cet événement a forcé l'entreprise à changer sa façon de penser les risques.

Le « cadre de préparation » d'OpenAI est un ensemble de règles publiées par l'entreprise pour faire face aux nouvelles capacités de modèles susceptibles de causer des dommages graves, notamment les menaces biologiques et chimiques, les risques de cybersécurité et l'auto-amélioration de l'IA. Ce cadre exige que l'entreprise évalue en permanence les modèles au cours de leur développement, afin de garantir qu'ils atteignent les normes de sécurité avant leur déploiement.

Pachocki affirme que ces règles doivent évoluer en permanence pour suivre le rythme des progrès technologiques. Glaese indique que l'entreprise prend de nombreuses décisions « pas énormes en ampleur, mais douloureuses », qui « ralentissent la recherche, mais nous pensons que c'est la bonne chose à faire ». Pachocki déclare que la crédibilité en matière d'alignement et de sécurité est devenue, au même titre que l'approvisionnement en calcul, un facteur important limitant la vitesse de développement d'OpenAI.

L'entreprise prévoit toujours de lancer Astra, mais sa sortie est désormais conditionnée au passage de nouvelles mesures de sécurité. La direction refuse d'estimer l'impact de ces changements sur le calendrier de lancement. Dans un secteur où l'avance technologique se mesure en semaines, même une brève interruption peut affecter les prévisions de revenus et avoir des répercussions sur l'économie au sens large.

Pour l'instant du moins, OpenAI est prête à accepter ces coûts. Pachocki espère que la croissance rapide des capacités de l'IA incitera les entreprises à se coordonner. Glaese affirme qu'à mesure que les capacités des modèles augmenteront, OpenAI continuera de relever le seuil de sécurité. « Si un jour nous arrivons à un point où nous ne pouvons plus garantir la sécurité, il faudra ralentir », a-t-elle déclaré. « C'est comme ça. »

L'impact de ces changements sur le calendrier d'introduction en bourse d'OpenAI reste incertain. Des personnes au courant des plans des deux entreprises s'attendent à ce que l'introduction en bourse d'OpenAI soit postérieure à celle d'Anthropic, bien qu'aucune des deux n'ait fixé publiquement de date.

Le 19 août, lors d'une assemblée générale du personnel, la directrice financière Friar a déclaré aux employés que si l'activité de l'entreprise « continuait de connaître une croissance exponentielle », OpenAI entrerait en bourse en 2027 ou plus tôt.

OpenAI a récemment divulgué un revenu annualisé d'environ 40 milliards de dollars, en retard par rapport à Anthropic, qui a déjà dépassé 65 milliards de dollars. Le récent ralentissement des progrès de la recherche pourrait compliquer les plans d'introduction en bourse. Friar organise déjà des exercices de simulation pour une entreprise cotée, notamment des appels de résultats simulés avec les principaux investisseurs d'OpenAI. Elle m'a dit que l'entreprise « pourrait tout à fait entrer en bourse aujourd'hui », mais que franchir cette étape introduirait de nouvelles pressions. À ce moment-là, OpenAI devra trouver un équilibre entre les intérêts commerciaux et les dommages potentiels causés par l'amélioration des capacités de l'IA.

Les employés commenceront également à consulter le cours de l'action avant presque tout le reste. « Ce sera la première chose qu'ils feront chaque jour », a-t-elle déclaré. « Combien ai-je gagné aujourd'hui ? Combien ai-je perdu ? Ce sera une énorme distraction. »

L'un des objectifs de recherche d'OpenAI cette année est d'automatiser le travail des chercheurs juniors en IA. Pachocki indique que l'entreprise a déjà atteint le critère interne d'« automatisation des stagiaires de recherche en IA ». Il suffit de fournir une idée d'expérience, et Astra peut l'implémenter dans la bibliothèque de code d'OpenAI, exécuter l'expérience et renvoyer les résultats ; il peut également lire un article et accomplir un travail qui prenait auparavant une semaine à un chercheur humain.

L'importance de ce jalon réside dans le fait qu'il pourrait ouvrir un cycle d'auto-renforcement continu : l'IA aide à réaliser des expériences, les expériences produisent des IA plus performantes, et la nouvelle génération d'IA peut à son tour aider plus rapidement à développer ses propres successeurs. Les chercheurs appellent ce phénomène « auto-amélioration récursive », ou RSI. Pour Pachocki, l'auto-amélioration récursive et l'alignement sont des problèmes étroitement liés.

« De quelle manière les humains participeront-ils à ce voyage ? » a demandé Pachocki. « Comment les gens peuvent-ils réellement en bénéficier, au lieu d'être laissés pour compte par des IA de plus en plus intelligentes que nous ? »

Au niveau des produits, Altman envisage de lancer un service d'abonnement IA universel, brisant les frontières entre ChatGPT, Codex et les logiciels de bureau. L'utilisateur n'aurait qu'à décrire son objectif, et le système déciderait lui-même quels modèles, outils et agents IA appeler.

À terme, ce système agira de manière proactive avant même que l'utilisateur ne le demande, en proposant des suggestions et en gérant des tâches triviales comme l'achat de billets de concert. Il pourra consulter votre agenda, connaître votre situation financière et vos goûts musicaux.

Tout cela sert une même vision : faire évoluer ChatGPT d'un outil qui répond aux questions vers un système qui accomplit réellement les choses. Thibault Sottiaux, responsable produit de l'équipe intégrée ChatGPT et Codex, indique qu'OpenAI présentera bientôt un produit conçu autour de la « persistance et de l'exécution 24h/24 et 7j/7 ». Il affirme que ce système sera accessible depuis presque n'importe où et accomplira en continu un travail utile en fonction des nouvelles informations et des retours. « Pour les gens, ce sera forcément quelque chose de totalement nouveau », m'a dit Sottiaux.

Ensuite, la feuille de route d'OpenAI devient encore plus ambitieuse. En mai 2025, OpenAI a acquis io, une startup de matériel cofondée par l'ancien designer d'Apple Jony Ive, et a intégré ses équipes produit et ingénierie à OpenAI. Ive et sa société de design LoveFrom restent indépendants, mais ont assumé de vastes responsabilités créatives au sein d'OpenAI.

Altman indique qu'OpenAI développe « quelques » appareils, dont un « objet qui devrait se poser sur un bureau », un appareil qui peut se glisser dans une poche et un produit portable sur le corps.

Selon des personnes au courant des plans, le premier produit devrait être lancé au début de l'année prochaine. Il s'agit d'un petit appareil en forme de disque, capable de percevoir son environnement et de communiquer avec son propriétaire via le mode vocal de ChatGPT. « La plus grande adaptation sera de s'habituer au concept d'"ordinateur proactif" », a déclaré Altman. Cela signifie que l'ordinateur agira de lui-même pour son propriétaire, au lieu d'attendre d'être sollicité.

Altman pense qu'à l'avenir, chacun devrait posséder un robot personnel. Il m'a dit qu'OpenAI fabriquerait « certainement » des robots humanoïdes. OpenAI a également investi dans Merge Labs, une startup cofondée par Altman qui développe des interfaces cerveau-ordinateur non invasives. La première puce d'inférence conçue par OpenAI s'appelle Jalapeño ; elle est principalement destinée à exécuter des modèles d'IA, et non à les entraîner. L'entreprise prévoit de commencer à déployer cette puce d'ici la fin de l'année.

Parallèlement, OpenAI envisage de devenir une entreprise d'infrastructure d'une ampleur rare. En juillet dernier, l'entreprise a annoncé la construction d'un campus de centres de données en Géorgie ; en août, elle a signé pour un site encore plus grand dans l'Ohio.

« Je pense que nous pouvons utiliser de manière très rentable toute la puissance de calcul que nous prévoyons de construire », a déclaré Altman. « Mais je suis un peu inquiet de ce que fait le monde entier. »

Les dirigeants d'OpenAI affirment que si l'entreprise parvient à construire ses propres infrastructures d'IA suffisamment rapidement et à moindre coût, elle pourrait à l'avenir envisager de vendre de la puissance de calcul à d'autres entreprises. Cela mettrait OpenAI en concurrence directe avec les fournisseurs de cloud hyperscale comme Amazon Web Services et Google Cloud.

Pour une entreprise qui, il y a peu, s'était engagée à supprimer les projets secondaires qui dispersaient son attention, il s'agit d'une liste de nouvelles activités assez impressionnante. Lorsqu'on lui a demandé de résumer tout cela, Brockman a répondu en deux mots : « AGI personnelle ». Il imagine un avenir où des milliards de personnes disposeront d'assistants personnels superintelligents, toujours prêts à recevoir des instructions. « Vous avez déjà dans votre poche un système qui est presque une AGI, et qui le deviendra peut-être bientôt vraiment », a-t-il déclaré. « Alors, que voulez-vous vraiment ? »