Zuckerberg a publié un long article décrivant la feuille de route de Meta en matière d intelligence artificielle, qui vise à créer une « superintelligence personnelle ».

Rédigé par : Xiao Jing, Tencent Technology

Le 10 août, heure locale aux États-Unis, Mark Zuckerberg a publié un long article intitulé « L'avenir appartient à tous : la voie vers un avenir positif pour l'intelligence artificielle ».

En apparence, il s'agit d'une déclaration de politique générale sur la superintelligence, la sécurité, l'open source et l'infrastructure, mais derrière ce long document se cache un thème plus crucial : l'objectif futur de Meta est de créer une « superintelligence personnelle ».

Zuckerberg a posé un postulat très clair concernant ce concept : la superintelligence ne peut en fin de compte être contrôlée par quelques entreprises, gouvernements ou laboratoires ; elle doit être mise à la disposition du grand public.

Ces deux dernières années, les discussions au sein du secteur de l'intelligence artificielle concernant la superintelligence ont principalement porté sur la mesure dans laquelle les modèles peuvent atteindre leurs capacités et sur les moyens d'empêcher qu'un système aux capacités bien supérieures à celles des humains ne devienne incontrôlable. Zuckerberg soutient que même si la superintelligence elle-même est sécurisée, si un tel pouvoir venait à tomber entre les mains d'un très petit nombre d'institutions, cela pourrait néanmoins engendrer de nouveaux déséquilibres de pouvoir.

Par conséquent, la solution qu'il propose est très « méta- »

Il estime que les principes fondamentaux du développement futur de l'intelligence artificielle devraient se concentrer sur trois aspects : considérer l'émancipation individuelle comme source de prospérité, considérer l'innovation comme l'objectif principal de la superintelligence et garantir la sécurité par des mécanismes de contrôle et d'équilibre.

Dans sa vision, chacun disposera d'un agent super-intelligent à ses côtés sur le long terme. Cet agent connaîtra votre style de travail, votre état de santé, votre situation familiale et vos objectifs à long terme, et pourra mener des recherches, programmer, concevoir des produits, planifier des tâches et même vous aider à accomplir des missions qui nécessitaient auparavant l'intervention d'une entreprise.

Cela explique aussi pourquoi Zuckerberg a regroupé plusieurs sujets apparemment sans lien entre eux dans le même article : les modèles open source, l’emploi basé sur l’IA, la gouvernance de la sécurité, la construction de centres de données et même les capacités énergétiques et infrastructurelles des États-Unis.

Tout cela soulève la même question : si la superintelligence personnelle devient réellement la prochaine génération de plateformes informatiques, qui la contrôlera, qui supportera les coûts de calcul qu’elle implique et qui décidera de ce qu’elle peut faire ?

La réponse de Zuckerberg reflète clairement la philosophie produit de Meta au cours des deux dernières décennies.

Facebook a donné à chaque utilisateur les moyens de créer et de diffuser du contenu, tandis qu'Instagram et WhatsApp ont encore amplifié ce lien. À l'ère de l'intelligence artificielle, Meta ambitionne de reproduire un modèle décentralisé similaire, transformant les capacités intellectuelles des grandes institutions en outils essentiels pour le citoyen lambda.

Même sur la question de la sécurité de l'intelligence artificielle, les opinions de Zuckerberg ne sont pas entièrement conformes au débat dominant dans la Silicon Valley.

Il estime que l'un des principaux risques à surveiller à l'avenir est la surconcentration des capacités de superintelligence. Dans cette optique, pour Meta, les modèles ouverts ne constituent plus seulement une option technologique pour concurrencer OpenAI et Anthropic.

Ce concept s'est progressivement intégré à la vision de Zuckerberg quant au fonctionnement d'une société hyperintelligente. Sur un plan plus concret, Meta recherche également de nouvelles opportunités commerciales pour explorer ce concept.

Si l'intelligence artificielle évolue des chatbots vers des agents personnels intelligents capables d'accompagner les utilisateurs sur le long terme, le véritable point d'entrée ne sera peut-être plus les pages web ou les applications mobiles, mais plutôt un système d'IA capable de comprendre en permanence les utilisateurs et d'agir à tout moment. Meta possède des réseaux sociaux, du contenu, des outils de communication et des lunettes connectées ; ces ressources ont désormais la possibilité d'être intégrées autour d'une « superintelligence personnelle ».

L'article de Zuckerberg vise à soulever une question plus importante que « Meta peut-il créer le modèle le plus puissant ? »

01 De « Contrôler la super-intelligence » à « Diffuser la super-intelligence »

Dans son article, Zuckerberg soulève une question fondamentale : qui possédera la superintelligence à l’avenir ? Si la superintelligence se concentre entre les mains de quelques entreprises, gouvernements ou laboratoires, cela créera-t-il de nouveaux déséquilibres de pouvoir au sein de la société ?

Ces dernières années, l'un des principaux sujets de discussion dans le domaine de la sécurité de l'intelligence artificielle a porté sur la manière de garantir que les futurs systèmes super-intelligents restent alignés sur les valeurs humaines – ce que l'on appelle le « problème de cohérence ». De nombreux chercheurs craignent que si les capacités de l'intelligence artificielle dépassent largement celles des humains et que ses objectifs sont incompatibles avec les intérêts humains, cela pourrait engendrer des risques incontrôlables. 

Image : Zuckerberg présentant la vision de Meta AI

Cependant, Zuckerberg soutient que s'appuyer uniquement sur des moyens technologiques pour créer une « superintelligence qui serve parfaitement les intérêts de tous » est logiquement erroné.

La raison en est qu'il n'existe pas de système de valeurs unifié au sein de la société humaine. Les individus, les cultures et les groupes ont des définitions différentes du bien-être. Une superintelligence, conçue et contrôlée par quelques institutions, favorisera inévitablement certains groupes dans ses choix de valeurs et ne pourra représenter les intérêts de tous.

Il a donc proposé une approche alternative : au lieu d’essayer de créer une superintelligence centralisée et absolument correcte, il est préférable de permettre à davantage de personnes de posséder leur propre superintelligence, créant ainsi un nouvel équilibre des pouvoirs grâce à la concurrence entre les individus, les entreprises et les institutions.

Zuckerberg utilise l'exemple des « avocats surdoués » pour illustrer ce point.

Si une seule personne au monde possédait des capacités juridiques exceptionnelles, elle bénéficierait d'un avantage asymétrique considérable au sein du système judiciaire. En revanche, si chacun disposait de capacités similaires, la répartition des ressources juridiques serait plus équitable et l'écart d'information entre le grand public et les grandes institutions se réduirait.

De même, si une seule organisation possède des capacités de cybersécurité ultra-intelligentes, elle peut devenir le plus grand risque pour la sécurité ; mais si les défenseurs disposent également d'outils d'IA puissants, le niveau de sécurité global des systèmes numériques peut en fait s'améliorer.

Dans le cadre conceptuel de Zuckerberg, la sécurité de l'intelligence artificielle ne peut pas reposer uniquement sur la limitation de ses capacités ; plus important encore, elle doit empêcher la superintelligence de constituer une concentration de pouvoir incontrôlée.

02 La forme de produit la plus importante de l'intelligence artificielle dans le futur

Partant de ce concept, Meta promeut l'approche de la « super intelligence personnelle ».

Zuckerberg estime que la forme de produit la plus importante de l'intelligence artificielle à l'avenir évoluera des chatbots de questions-réponses vers des agents intelligents personnels capables de comprendre les utilisateurs sur le long terme et de les aider à atteindre leurs objectifs.

Cet agent intelligent deviendra un assistant intelligent dans la vie quotidienne des utilisateurs, capable de comprendre leurs préférences personnelles, leurs objectifs et leurs besoins à long terme, et de les aider en permanence à optimiser leur santé, leur travail, la gestion de leur famille, leur planification financière, ainsi que leur apprentissage et leur développement.

Contrairement à la plupart des outils d'IA actuels, la valeur ajoutée des futurs agents d'IA personnels s'étendra de la simple fourniture d'informations à la prise d'actions pour le compte des utilisateurs. Par exemple, ils pourront les aider à organiser leurs informations, à trouver l'inspiration, à planifier leurs tâches, à leur proposer des suggestions de style de vie basées sur leurs données de santé, et même à organiser des activités familiales.

Zuckerberg souligne l'importance de la protection de la vie privée. Pour que la super-intelligence personnelle s'intègre véritablement à la vie des individus, elle doit obtenir l'autorisation de l'utilisateur pour accéder à de grandes quantités d'informations privées. Meta propose que les futurs agents d'intelligence personnelle offrent un « mode totalement privé », dans lequel même Meta ne peut ni consulter les informations de l'utilisateur ni autoriser des tiers à y accéder.

Cela représente également un nouveau type de relation homme-machine que Meta tente d'établir : l'intelligence artificielle passera d'un outil appartenant aux entreprises à une capacité appartenant aux individus.

Dans les débats sur l'emploi et l'automatisation, les idées de Zuckerberg divergent radicalement des opinions communément admises. Il soutient que la contribution la plus importante de la superintelligence ne réside pas seulement dans le remplacement des emplois humains, mais aussi dans sa capacité à aider l'humanité à créer des choses auparavant impossibles.

Historiquement, chaque grande révolution technologique a suscité des inquiétudes quant au chômage. De la révolution industrielle à l'ère d'Internet, la crainte que les machines ne remplacent un grand nombre d'emplois n'a cessé de se manifester. Mais finalement, la technologie a non seulement accru la productivité, mais a aussi créé de nouveaux secteurs et de nouvelles professions. Zuckerberg pense que l'ère de l'intelligence artificielle suivra une trajectoire similaire.

Le véritable changement à venir ne sera pas que les machines prennent en charge davantage de tâches répétitives, mais que les gens ordinaires acquièrent des compétences qui étaient auparavant réservées aux grandes entreprises et aux organisations professionnelles.

Les particuliers pourront tirer parti de l'intelligence artificielle pour concevoir des produits, développer des logiciels, réaliser des études de marché et même créer des entreprises, sans avoir besoin d'équipes importantes. Cela transformera l'organisation des entreprises.

Les entreprises de demain seront peut-être plus petites, mais la productivité individuelle sera plus élevée. De nombreuses idées, auparavant irréalisables en raison de coûts élevés ou d'obstacles technologiques, deviendront possibles grâce à la généralisation de l'intelligence artificielle. Zuckerberg estime que la superintelligence devrait à terme constituer l'infrastructure de l'innovation, et non se limiter à l'automatisation.

03 Transactions de l'écosystème open source : Stratégie de Meta en matière de concurrence dans le domaine de l'intelligence artificielle

Outre son exceptionnelle sagesse personnelle, l'open source est également un thème clé dans les articles de Zuckerberg.

Meta soutient depuis longtemps le modèle open source, ce qui la distingue nettement de certains concurrents qui privilégient le modèle propriétaire. Zuckerberg est convaincu que l'open source favorise non seulement l'innovation, mais renforce également la sécurité.

Image : Wang Tao, directeur de Meta AI, a annoncé que la société publiera prochainement une version open source de Muse Spark 1.2.

Son raisonnement est le suivant : plus de chercheurs, de développeurs et d’entreprises ont accès au modèle, plus il est possible de découvrir des vulnérabilités, d’améliorer les systèmes et d’accélérer l’itération technologique. À l’inverse, si la superintelligence est contrôlée par quelques institutions pendant une période prolongée, la société manquera de contre-pouvoirs suffisants.

Zuckerberg estime que si les États-Unis bénéficient actuellement d'un avantage dans des domaines tels que la conception de puces dans la compétition mondiale, ils doivent relever des défis en matière d'énergie, de centres de données et de vitesse des infrastructures. La future compétition dans le domaine de l'intelligence artificielle ne se limitera pas aux algorithmes, mais portera également sur l'énergie et la puissance de calcul.

Il a souligné que les États-Unis doivent accélérer le développement de leurs infrastructures tout en préservant leurs avantages dans les écosystèmes ouverts.

Concernant l'utilisation des données pour l'entraînement et le perfectionnement des modèles, Zuckerberg estime que les États-Unis ne devraient pas compromettre leur compétitivité par des restrictions excessives. Il soutient que le développement de l'intelligence artificielle repose fondamentalement sur l'accumulation des connaissances humaines et que l'apprentissage mutuel entre les modèles est essentiel au progrès technologique. Si les États-Unis restreignent excessivement leur écosystème open source, ils risquent, involontairement, de créer des opportunités pour d'autres pays.

Concernant les questions de sécurité, Zuckerberg ne nie pas les risques potentiels liés à l'intelligence artificielle. Il s'est concentré sur des sujets tels que la cybersécurité, les risques biométriques et l'expansion du pouvoir gouvernemental.

Son principal argument est que, face aux risques liés à l'intelligence artificielle, la société devrait renforcer ses propres défenses plutôt que de simplement limiter les capacités technologiques.

Par exemple, en matière de cybersécurité, si seuls les attaquants disposent d'outils d'intelligence artificielle avancés, le risque augmentera effectivement. En revanche, si les entreprises, les gouvernements et les particuliers peuvent tous tirer parti de l'intelligence artificielle pour renforcer leurs propres capacités de défense, le niveau de sécurité global du système s'en trouvera amélioré.

Concernant les risques biologiques et chimiques, Zuckerberg estime que les politiques publiques devraient viser à limiter la production et la propagation des substances dangereuses, plutôt qu'à entraver le développement des connaissances scientifiques.

À mesure que l'intelligence artificielle accélère le développement des médicaments et la recherche en sciences de la vie, les systèmes réglementaires doivent également être modernisés en conséquence ; sinon, les processus d'approbation traditionnels risquent de devenir un frein à l'innovation.

04 Le « compte communautaire » dans le centre de données

La course à l'intelligence artificielle entre dans l'ère des infrastructures.

De vastes centres de données, des approvisionnements énergétiques importants et des ressources informatiques considérables constituent le socle du développement des supercalculateurs. Cependant, la société américaine s'inquiète de plus en plus de la consommation d'énergie, de la pression sur les ressources en eau et de l'impact environnemental liés à la construction de ces grands centres de données.

Zuckerberg a souligné que les bénéfices du développement des infrastructures d'IA devaient être partagés avec la communauté. Meta a proposé le concept de « contrat communautaire », espérant que les sites d'implantation des centres de données bénéficieraient de davantage d'opportunités d'emploi, d'investissements dans l'éducation et d'un soutien accru des services publics.

Il estime que les centres de données ne doivent pas être considérés comme de simples installations consommatrices de ressources, mais plutôt comme des actifs à long terme qui stimulent le développement économique régional, à l'instar des infrastructures ferroviaires, électriques et internet par le passé.

Image : Projet de centre de données de Meta dans le comté de Richland, en Louisiane, aux États-Unis.

Il s'agit également d'une réponse importante de Meta aux doutes extérieurs concernant son investissement massif dans l'intelligence artificielle.

La concurrence dans le domaine de l'intelligence artificielle nécessitera à l'avenir d'énormes investissements de capitaux, et la question de l'acceptation sociale de ces investissements sera un problème que les entreprises technologiques devront résoudre.

En matière de gouvernance d'entreprise, Zuckerberg estime que le développement de la superintelligence ne peut reposer sur le jugement d'un seul dirigeant. Il reconnaît qu'il n'est pas idéal que le PDG soit le décideur final en matière de déploiement de la superintelligence. C'est pourquoi Meta met en place un nouveau mécanisme de gouvernance permettant à un conseil d'administration indépendant de participer à la définition des normes de sécurité pour les versions de modèles et à l'examen de la publication des modèles majeurs.

En réalité, ce dispositif répond à des préoccupations de longue date concernant la concentration des capacités en intelligence artificielle entre les mains de grandes entreprises technologiques.

Dans le même temps, Zuckerberg a également évoqué les risques extrêmes qui pourraient survenir si l'intelligence artificielle acquérait la capacité de s'améliorer de manière autonome.

Si les systèmes d'intelligence artificielle peuvent améliorer continuellement leurs capacités, les ressources de calcul pourraient devenir le facteur déterminant. Théoriquement, les systèmes dotés de capacités d'auto-optimisation continue peuvent rapidement creuser l'écart avec les autres systèmes.

Par conséquent, il estime que même si un certain investissement en puissance de calcul doit être réalisé à l'avenir pour parvenir à une amélioration continue de l'intelligence artificielle, la plupart des capacités intelligentes devraient encore être contrôlées par les humains pour atteindre les objectifs humains.

05 Conclusion : Viser le marché d'entrée de gamme des plateformes informatiques de nouvelle génération

À en juger par les agissements de Meta au cours de l'année écoulée, ce long article semble aborder les questions de sécurité liées à l'intelligence artificielle, mais ce qui le préoccupe réellement, c'est clairement l'avenir de Meta.

Superintelligence personnelle, modèles ouverts, lunettes intelligentes et investissements informatiques à grande échelle : ces initiatives apparemment disparates ont été intégrées dans un récit unique : la prochaine phase de la compétition en matière d’IA ne consistera plus à savoir qui possède le modèle le plus puissant, mais à savoir qui peut contrôler le point de contact le plus durable et le plus fréquent entre les humains et l’IA.

C'est une guerre que Meta connaît très bien.

Depuis deux décennies, de Facebook à Instagram en passant par WhatsApp, le principal atout de Meta a toujours été sa capacité à servir de passerelle vers les utilisateurs. Cependant, à l'ère de l'internet mobile, cette capacité s'est trouvée limitée par des systèmes d'exploitation comme ceux d'Apple et de Google. L'intelligence artificielle offre à Zuckerberg l'opportunité de redéfinir les plateformes informatiques : si chacun dispose d'un agent intelligent capable de le comprendre en permanence, d'appeler divers services et d'agir en son nom, alors cet agent intelligent pourrait lui-même devenir le nouveau système d'exploitation.

La signification des lunettes intelligentes a également évolué. Elles ne sont plus seulement un nouveau type de matériel, mais peuvent devenir des terminaux permettant à l'intelligence artificielle personnelle d'acquérir des informations du monde réel et d'interagir en permanence avec les utilisateurs ; le modèle ouvert n'est pas seulement une stratégie de l'industrie technologique, mais vise également à étendre au maximum la couverture de la pile technologique Meta.

Il y a toutefois une contradiction ici qui mérite d'être approfondie.

Zuckerberg espère apaiser les inquiétudes liées à la centralisation des capacités d'intelligence artificielle en proposant l'idée que « la superintelligence appartient à tous ». Cependant, les véritables limites des capacités individuelles en IA dépendent toujours des modèles, de la puissance de calcul, des terminaux, des canaux de distribution et, surtout, des données personnelles. La superintelligence peut être accessible à tous, mais l'infrastructure qui la sous-tend bénéficie d'importantes économies d'échelle.

Autrement dit, plus la capacité de personnalisation de l'intelligence artificielle est forte, plus la concentration de sa plateforme sous-jacente peut être élevée.

Par conséquent, le succès final de l'approche de Meta dépend non seulement de sa capacité à créer un modèle suffisamment puissant, mais aussi, et peut-être plus important encore, de sa capacité à, pour la première fois, contourner Apple et Google pour établir sa propre passerelle informatique contrôlée ; et, lorsque l'intelligence artificielle commencera à comprendre les utilisateurs mieux que n'importe quelle application, à qui appartient réellement cette intelligence artificielle, et à qui appartiennent réellement les données et les relations qui en résultent.