Bill Gates : l'ère turbulente de l'IA est arrivée, et cette fois c'est différent

Texte de Xiaojing, Tengxu Technology

« L'IA deviendra soit le plus grand égalisateur de l'histoire, soit la plus grande source d'injustice. » C'est le jugement le plus frappant du fondateur de Microsoft, Bill Gates, sur l'avenir de l'IA.

Il y a trois ans, Bill Gates comparait l'IA aux voitures et à Internet, estimant que les risques sont réels mais peuvent être gérés par des règles, la technologie et l'adaptation sociale ; au début de cette année, il résumait encore son attitude comme un « optimisme avec des notes de bas de page ».

Le 26 août, heure locale aux États-Unis, Gates a publié un nouvel article intitulé « L'ère turbulente de l'IA est arrivée, et nos choix sont cruciaux », déclarant que c'est la première fois qu'il fait face à une nouvelle technologie en espérant qu'elle se développe plus lentement.

Il a commencé à préconiser la désignation de « zones de réserve humaine » pour certaines professions, ce qui signifie que même si l'IA peut faire le travail, il devrait être obligatoire qu'il soit effectué par des humains ; en même temps, il a envisagé de taxer les jetons d'IA et les robots pour réduire l'incitation des entreprises à remplacer les gens par des machines.

Lui qui avait toujours espéré une innovation plus rapide a déclaré aujourd'hui une phrase profonde : « Cette fois, c'est vraiment différent. »

« Nous avons besoin de temps pour nous préparer à ce bouleversement social, politique et économique », a-t-il dit, « mais l'IA est difficile à arrêter et à attendre les humains. »

01 La plus grande préoccupation : les premiers emplois des jeunes

Le changement qui préoccupe le plus Gates se produit sur le marché du travail.

L'IA passe de l'assistance au travail humain à l'exécution autonome de tâches. Lorsque les modèles peuvent effectuer un travail de manière stable, les entreprises ont naturellement la motivation de les adopter. Une fois qu'une entreprise réduit ses coûts grâce à l'IA, les concurrents auront du mal à maintenir leurs méthodes d'emploi d'origine à long terme. Ce changement créera une réaction en chaîne de plus en plus rapide.

Gates prédit que des postes tels que le service client, les ventes, l'ingénierie logicielle et les assistants juridiques pourraient être touchés plus tôt. À mesure que les capacités de l'IA s'améliorent, des emplois comme l'examen des prêts, l'analyse de données et le triage médical seront progressivement repris.

Les emplois manuels sont également difficiles à éviter complètement. Bien que la dextérité des robots n'ait pas encore atteint le niveau humain, Gates estime qu'à mesure que le prix des robots diminue et que les capacités de l'IA s'améliorent, d'ici 2030 environ, certains emplois physiques dans des secteurs comme la construction et l'hôtellerie pourraient commencer à voir une concurrence directe entre les humains et les machines.

Cette fois, Gates s'inquiète particulièrement pour les jeunes. La partie la plus facilement négligée du marché du travail est celle des postes de débutant. Les premiers emplois de nombreux jeunes ne sont pas complexes, mais ce sont des occasions importantes d'accumuler de l'expérience, d'acquérir des compétences et de nouer des relations professionnelles. Si ces postes disparaissent en grand nombre, les jeunes pourraient être confrontés à un point de départ de carrière plus étroit.

Dans le passé, on citait souvent la migration des populations agricoles et l'automatisation de l'industrie manufacturière pour illustrer que les révolutions technologiques créent finalement de nouveaux emplois. Gates estime que cette fois, les expériences passées ne peuvent pas être simplement reproduites. L'IA peut remplacer directement le travail cognitif humain, tandis que les nouveaux emplois nécessitent souvent plus de temps pour être maîtrisés. Pour quelqu'un qui entre sur le marché du travail, une période de formation de plusieurs années, voire plus, peut elle-même devenir un obstacle.

Par conséquent, il préconise que la société discute dès maintenant du chômage, de la reconversion et de la sécurité sociale. Attendre qu'un grand nombre de personnes aient perdu leur emploi pour mettre en place ces mécanismes pourrait être trop tard.

Un problème plus important est le revenu. Si de nombreuses personnes travaillent beaucoup moins d'heures à l'avenir ou sont même au chômage pendant de longues périodes, comment un système économique qui repose sur l'emploi pour le revenu, l'identité et les liens sociaux fonctionnera-t-il ? Gates estime que cela deviendra une question structurelle à laquelle il faudra répondre à l'ère de l'IA.

02 L'IA rend les comportements dangereux plus faciles à reproduire

L'emploi n'est qu'un aspect des préoccupations de Gates. De l'autre côté, l'IA abaisse les barrières techniques de certains comportements dangereux.

Dans le passé, développer des logiciels malveillants, lancer des cyberattaques ou acquérir des connaissances biotechnologiques complexes nécessitait des compétences assez spécialisées. Avec l'émergence de l'IA, ces capacités pourraient devenir progressivement plus faciles à obtenir.

Gates s'inquiète particulièrement de la cybersécurité. Le même modèle d'IA peut aider les entreprises à trouver des vulnérabilités logicielles, mais il peut aussi aider les attaquants à trouver les mêmes vulnérabilités. Les hôpitaux, les institutions financières, les réseaux électriques, les systèmes d'approvisionnement en eau et les systèmes d'aide sociale gouvernementaux pourraient tous devenir des cibles d'attaques.

La biotechnologie est confrontée à des problèmes similaires. L'IA peut aider les scientifiques à découvrir de nouveaux médicaments et vaccins, mais elle peut aussi aider des acteurs malveillants à étudier des agents pathogènes dangereux. Pour Gates, le plus difficile est là : la capacité de stimuler le progrès scientifique devient de plus en plus proche de la capacité de créer des risques.

Des risques plus extrêmes proviennent des systèmes d'IA eux-mêmes. À mesure que les capacités des modèles s'améliorent, ils peuvent commencer à exécuter des comportements que les concepteurs n'avaient pas anticipés. Si à l'avenir l'IA possède une plus grande capacité d'action autonome et d'auto-amélioration, la question de savoir si les humains pourront toujours garder le contrôle est actuellement sans réponse.

C'est aussi pourquoi Gates ne pense pas que la gouvernance de l'IA soit uniquement une affaire interne aux entreprises technologiques. L'IA a un impact simultané sur l'emploi, la santé publique, l'énergie, la finance, la sécurité nationale, l'éducation, la fiscalité et les élections. Si chaque département gouvernemental ne prend en charge que sa petite partie, il est facile que personne ne soit réellement responsable des risques globaux.

Par conséquent, il propose d'établir de nouveaux mécanismes de gouvernance nationaux et internationaux. Au niveau national, il faut des institutions capables de coordonner les différents départements. Au niveau international, il faut établir des systèmes de coopération similaires à la réglementation des armes nucléaires et aux règles de l'aviation internationale.

Gates a spécifiquement mentionné que les pays leaders en IA comme les États-Unis et la Chine doivent entamer un dialogue dès que possible.

Plus la concurrence en IA est intense, plus la coopération devient difficile. Plutôt que d'attendre que le développement technologique approche des stades dangereux pour formuler des règles, il vaut mieux commencer à établir des normes communes dès maintenant.

03 L'IA qui comprend trop bien les humains peut aussi être un problème

Gates a également soulevé une question plus difficile à quantifier : à mesure que l'IA comprend mieux les humains, les humains perdront-ils certaines occasions de croissance ?

Dans l'article, il se remémore son enfance. Enfant, il n'était pas doué pour socialiser et avait besoin d'interagir avec les autres, de vivre des conflits et d'apprendre progressivement à comprendre différentes personnes. S'il y avait eu un compagnon IA à ses côtés à l'époque, un compagnon qui ne se fâche jamais et ne le met jamais mal à l'aise, il doute qu'il aurait traversé ces processus de croissance nécessaires.

C'est aussi ce qui l'inquiète le plus à propos des compagnons IA. Un système qui est toujours d'accord avec l'utilisateur et fournit du réconfort à tout moment peut facilement entraîner une dépendance. Pour les adultes, cet impact peut être observé progressivement ; pour les enfants et les adolescents, le problème peut être encore plus grave.

Gates craint que si les enfants s'habituent à interagir avec une IA qui leur cède toujours, ils puissent être confrontés à moins de conflits, de rejets et de frustrations dans les relations réelles.

L'éducation est également confrontée à des problèmes similaires. L'IA peut aider les étudiants à expliquer des connaissances, à trouver des informations et à faire leurs devoirs, mais si les étudiants confient tout le processus de réflexion aux machines, l'apprentissage lui-même peut être vidé de sa substance. Surtout à une époque où les deepfakes et la désinformation personnalisée deviennent plus répandus, la capacité de juger de la vérité, de comprendre les sources d'information et de penser de manière indépendante deviendra de plus en plus importante.

Plus l'IA est utilisée fréquemment, plus la pensée critique diminue, et cet effet est plus prononcé chez les jeunes. Source : article de Michael Gerlich, professeur à la Swiss Business School

Cependant, Gates ne nie pas la valeur de l'IA dans l'éducation et la compagnie.

Pour les personnes âgées seules et celles à mobilité réduite, l'IA peut offrir une compagnie et des informations auparavant difficiles à obtenir. Pour les enseignants, l'IA peut également prendre en charge des tâches répétitives comme la préparation des cours et la correction, permettant aux enseignants de passer plus de temps avec les élèves.

La question ultime se résume à une frontière : quelles tâches peuvent être confiées aux machines, et quelles tâches doivent être accomplies par les humains ? Gates estime que cette frontière doit être activement discutée et décidée par la société, plutôt que d'accepter passivement les résultats une fois la technologie répandue.

04 L'IA devrait donner du pouvoir à tous

Si l'on ne voit que ces risques, il est facile d'interpréter Gates comme quelqu'un de plus en plus pessimiste à propos de l'IA. En réalité, il reste très optimiste quant à la capacité de l'IA à résoudre des problèmes concrets.

La santé est un domaine qu'il souligne. De nombreux petits hôpitaux aux États-Unis manquent de spécialistes expérimentés, et l'IA peut aider les médecins à analyser des images, à détecter des urgences comme les AVC et à aider les médecins de premier recours dans le diagnostic. Pour les patients, elle peut aussi expliquer des résultats d'analyses complexes et des plans de médication.

Dans les pays à faible revenu, l'agriculture pourrait devenir un domaine où l'IA a un impact plus rapide. De nombreux agriculteurs manquent de prévisions météorologiques précises et de conseils professionnels sur la plantation, la lutte antiparasitaire et la gestion des sols. Si l'IA peut fournir directement ces connaissances aux agriculteurs, ils pourraient avoir accès à des informations et des outils qui n'étaient auparavant disponibles que pour les grandes entreprises agricoles.

Les services gouvernementaux offrent également des opportunités similaires. De nombreuses familles qui demandent une assurance maladie, une aide alimentaire et des bourses d'études doivent remplir beaucoup de documents complexes. L'IA peut aider les gens ordinaires à comprendre les politiques et à préparer les demandes, leur permettant d'accéder plus facilement aux services publics auxquels ils ont droit.

Ce que Gates voit, c'est une redistribution des capacités professionnelles grâce à l'IA. Dans le passé, si quelqu'un voulait développer un logiciel, mener une étude de marché ou analyser des informations médicales, il devait souvent embaucher des professionnels. À l'avenir, l'IA peut devenir un « amplificateur de capacités » pour les individus et les petites entreprises. Cela signifie qu'une petite équipe pourrait accomplir un travail que seules les grandes entreprises pouvaient gérer auparavant.

Mais Gates avertit également que l'IA n'apportera pas automatiquement l'équité. Si une IA de haute qualité ne sert que les riches, le progrès technologique pourrait creuser davantage les écarts. Les gouvernements et les organisations caritatives doivent veiller à ce que les populations à faible revenu et les pays en développement puissent également accéder à ces capacités.

C'est aussi pourquoi Gates relie l'IA à ses activités caritatives passées. Il a déclaré que la Fondation Gates utilisera l'IA pour accélérer la recherche dans des domaines tels que le sida, la tuberculose, le paludisme et la malnutrition, tout en aidant les projets de santé, d'agriculture et d'éducation à obtenir de meilleurs outils.

05 Donner à l'humanité une « réserve » et taxer les robots

Face à l'impact sur l'emploi apporté par l'IA, Gates a proposé deux idées très concrètes.

La première est de réserver une partie des emplois aux humains.

Cette idée vient de l'expérience de son père atteint de la maladie d'Alzheimer dans ses dernières années. Les soignants étaient capables d'évaluer l'état de son père lorsqu'il ne pouvait pas exprimer clairement ses besoins, sachant quand il devait manger, se reposer ou recevoir des soins. Aux yeux de Gates, l'humanité impliquée dans de tels soins a une valeur irremplaçable.

Par conséquent, il a proposé le concept de « zones de réserve humaine ». Tout comme certaines terres dans les réserves naturelles peuvent être développées mais sont activement choisies par la société pour être préservées, il pourrait y avoir à l'avenir une partie du travail que, même si l'IA et les robots peuvent l'accomplir, les humains décident de continuer à faire. Les soins de santé, l'éducation, la santé mentale et les soins aux personnes âgées pourraient appartenir à cette catégorie.

Bien sûr, cette portée ne restera pas inchangée. Un pays disposant d'une main-d'œuvre suffisante peut préférer conserver les soins humains ; un pays dont la population vieillit rapidement et qui manque de main-d'œuvre jeune peut être plus disposé à utiliser des robots de soins.

La deuxième suggestion est de reconsidérer les taxes sur les robots.

Actuellement, lorsqu'une entreprise embauche une personne, elle doit supporter des coûts tels que les charges sociales. Cependant, l'achat d'un robot peut être traité comme une dépense d'entreprise. Gates estime que cette structure fiscale incite les entreprises à remplacer le travail humain par des machines. Si une certaine taxe est prélevée sur les avantages de l'automatisation apportés par les robots ou l'IA, elle peut fournir un financement pour la reconversion et la sécurité sociale des chômeurs, et aussi encourager les entreprises à réfléchir davantage avant de décider de remplacer le travail humain.

Gates sait que cette proposition suscitera la controverse, car la taxation pourrait ralentir une partie de l'automatisation et affecter l'efficacité. Mais il estime que l'IA apportera une augmentation de productivité suffisamment importante, et que la société doit allouer une partie des bénéfices pour aider ceux qui sont les plus touchés.

De l'avis de Gates, ce qu'il faut vraiment préparer à l'avance, ce ne sont pas seulement de nouveaux modèles d'IA, mais aussi une société capable de résister aux changements rapides apportés par l'IA.