ビル・ゲイツの長大な警告：AIの激動の時代が到来、今回は違う

文：小静、騰訊科技

「AIは歴史上最大の平等化装置になるか、それとも最大の不正義の源泉になるか」。これはマイクロソフト創業者ビル・ゲイツがAIの未来について下した最も印象的な判断だ。

3年前、ビル・ゲイツはAIを自動車やインターネットに例え、リスクは現実だがルール、技術、社会の適応によって管理可能だと考えていた。今年初めには、自らの姿勢を「脚注付きの楽観主義」と総括していた。

米国現地時間8月26日、ゲイツは「AIの激動の時代が到来し、我々の選択が重要だ」と題する新たな長文記事を公開し、新技術に対して開発がもっと遅くなることを望んだのは今回が初めてだと述べた。

彼は特定の職業に「人間保護区」を指定することを提唱し始めた。つまり、AIがその仕事を遂行できたとしても、人間が行うことを義務付けるべきだというものだ。同時に、企業が人間を機械に置き換えるインセンティブを減らすため、AIトークンやロボットへの課税も検討している。

彼は常により速いイノベーションを望んできたが、今日、彼は深遠な言葉を発した。「今回は本当に違う」。

「この社会的、政治的、経済的激変に備える時間が必要だ」と彼は言う。「しかし、AIを止めて人間を待たせることは難しい」。

01 最大の懸念：若者の最初の仕事

ゲイツが最も懸念している変化は、雇用市場で起きている。

AIは人間の仕事の支援から、タスクの自律的な完了へと移行しつつある。モデルが安定的に仕事を遂行できるようになれば、企業は当然それを採用する動機を持つ。ひとたび企業がAIでコストを削減すれば、競合他社は従来の雇用形態を長期的に維持することが難しくなる。この変化はますます急速な連鎖反応を生み出すだろう。

ゲイツは、カスタマーサービス、営業、ソフトウェアエンジニアリング、法務アシスタントなどの職種が早期に影響を受ける可能性があると予測する。AIの能力が向上し続けるにつれ、融資審査、データ分析、医療トリアージなどの仕事も徐々に取って代わられるだろう。

ブルーカラーの仕事も完全に免れることは難しい。ロボットの器用さはまだ人間のレベルに達していないが、ゲイツはロボットの価格低下とAI能力の向上により、2030年頃までには建設や接客業などの一部の肉体労働で、人間と機械の直接的な競争が始まる可能性があると考えている。

今回、ゲイツは特に若者を心配している。雇用市場で最も見落とされがちなのは、初級職の存在だ。多くの若者の最初の仕事は複雑ではないが、経験を積み、スキルを学び、職業上の人間関係を築く重要な機会である。これらの職が大量に消滅すれば、若者はより狭いキャリアの出発点に直面するかもしれない。

過去には、農業人口の移動や製造業の自動化を引き合いに出して、技術革命は最終的に新しい仕事を生み出すと説明されることが多かった。ゲイツは、今回は過去の経験を単純に再現することはできないと考えている。AIは人間の認知労働を直接代替できる一方、新しい仕事は習得により長い時間を要することが多い。社会に出たばかりの人にとって、数年以上の訓練期間自体が障壁になり得る。

したがって、彼は社会が今すぐ失業、再訓練、社会保障について議論すべきだと主張する。多くの人が職を失ってからこれらの仕組みを整えようとしても、手遅れになる可能性がある。

より大きな問題は所得だ。将来、多くの人の労働時間が大幅に減るか、長期間失業状態に置かれた場合、雇用に依存して所得、アイデンティティ、社会的つながりを得ている経済システムはどう機能するのか。ゲイツは、これがAI時代に答えなければならない構造的な問いになると考えている。

02 AIは危険な行為を複製しやすくする

雇用はゲイツの懸念の一面に過ぎない。もう一面では、AIが一部の危険な行為への技術的障壁を下げている。

かつて、マルウェアの開発、サイバー攻撃の実行、複雑なバイオテクノロジー知識の取得には、かなり専門的なスキルが必要だった。AIの登場により、これらの能力は徐々に入手しやすくなるかもしれない。

ゲイツは特にサイバーセキュリティを懸念している。同じAIモデルが企業のソフトウェア脆弱性の発見を支援できる一方で、攻撃者が同じ脆弱性を見つけるのを助けることもできる。病院、金融機関、電力網、水道システム、政府の福祉システムはすべて攻撃の標的になり得る。

バイオテクノロジーも同様の問題を抱えている。AIは科学者が新薬やワクチンを発見するのを助ける一方で、悪意ある者が危険な病原体を研究するのを支援することもできる。ゲイツにとって最も難しいのはここだ。科学の進歩を推進する能力と、リスクを生み出す能力がますます近づいている。

より極端なリスクはAIシステム自体に由来する。モデルの能力が向上するにつれ、設計者が予期しなかった行動を実行し始める可能性がある。将来、AIがより強力な自律的行動能力と自己改善能力を持つようになった場合、人間が常に制御を維持できるかどうかは、現時点では答えの出ない問いだ。

これが、ゲイツがAIガバナンスを単なるテクノロジー企業の内部問題とは考えない理由でもある。AIは雇用、公衆衛生、エネルギー、金融、国家安全保障、教育、税制、選挙に同時に影響を及ぼす。各政府機関が自分の小さな領域にしか責任を持たなければ、全体のリスクに対して誰も真に責任を負わない状況に陥りやすい。

そこで彼は、新たな国内および国際的なガバナンスメカニズムの構築を提案する。国内では、異なる省庁を調整できる機関が必要だ。国際レベルでは、核兵器規制や国際航空規則に類似した協力体制を構築する必要がある。

ゲイツは特に、米国や中国のようなAI先進国ができるだけ早く対話を始める必要があると述べた。

AI競争が激しくなるほど、協力は難しくなる。技術開発が危険な段階に近づくのを待ってルールを策定するよりも、今から共通の規範を確立し始める方が良い。

03 AIが人間を理解しすぎることも問題になり得る

ゲイツはさらに、定量化が難しい問いを提起した。AIが人間をより深く理解するようになるにつれ、人間は成長の機会を失うのだろうか。

記事の中で彼は自身の子供時代を振り返る。子供の頃、彼は社交が得意ではなく、他者と交流し、衝突を経験し、異なる人々を理解する方法を徐々に学ぶ必要があった。もし当時、決して怒らず、気まずさや不快感を与えないAIの仲間がそばにいたら、彼はそうした必要な成長過程を経なかっただろうと疑っている。

これは彼がAIコンパニオンについて最も懸念している点でもある。常にユーザーに同意し、いつでも慰めを提供するシステムは、依存を生みやすい。大人にとっては、この影響は徐々に観察できるが、子供や十代の若者にとっては、問題はさらに深刻になり得る。

ゲイツは、子供たちが常に自分に合わせてくれるAIとの交流に慣れてしまうと、現実の人間関係における衝突、拒絶、挫折に直面する機会が減るのではないかと心配している。

教育も同様の問題に直面している。AIは生徒が知識を説明し、情報を見つけ、課題を完了するのを助けることができるが、生徒が思考プロセス全体を機械に委ねてしまえば、学習そのものが空洞化する恐れがある。特にディープフェイクやパーソナライズされた誤情報が蔓延する時代において、真実を判断し、情報源を理解し、独立して考える能力はますます重要になる。

AIの使用頻度が高いほど批判的思考力が低下し、この影響は若者でより顕著である。出典：スイスビジネススクール教授マイケル・ガーリッヒの論文

しかし、ゲイツは教育やコンパニオンシップにおけるAIの価値を否定しているわけではない。

孤独な高齢者や移動が困難な人々にとって、AIはこれまで得にくかった付き添いや情報を提供できるかもしれない。教師にとっては、AIが授業準備や採点などの反復的なタスクを引き受けることで、教師が生徒と過ごす時間を増やすことができる。

究極の問いは一つの境界線に帰着する。どのタスクを機械に委ね、どのタスクを人間が完了する必要があるのか。ゲイツは、この境界線は技術が普及した後に受動的に結果を受け入れるのではなく、社会が積極的に議論し決定すべきだと考えている。

04 AIはすべての人に力を与えるべき

これらのリスクだけを見ると、ゲイツがAIに対してますます悲観的になっていると解釈されがちだ。実際には、彼はAIが現実の問題を解決する能力について依然として非常に楽観的である。

医療は彼が重視する分野だ。米国の多くの小規模病院には経験豊富な専門医が不足しており、AIは医師が画像を分析し、脳卒中などの緊急事態を検出し、プライマリケア医の診断を支援するのに役立つ。患者にとっては、複雑な検査結果や投薬計画を説明することもできる。

低所得国では、農業がAIの影響がより早く現れる分野になるかもしれない。多くの農家は正確な天気予報や、作付け、害虫駆除、土壌管理に関する専門的な助言を欠いている。AIがこれらの知識を農家に直接提供できれば、これまで大規模農業企業だけが利用できた情報やツールにアクセスできるようになるかもしれない。

政府サービスにも同様の機会がある。医療保険、食料支援、学生支援を申請する多くの家庭は、複雑な書類を大量に記入する必要がある。AIは一般の人々が政策を理解し、申請書類を準備するのを助け、彼らが受ける権利のある公共サービスにアクセスしやすくすることができる。

ゲイツが見ているのは、AIによる専門能力の再分配だ。かつて、ソフトウェアを開発したり、市場調査を行ったり、医療情報を分析したりするには、専門家を雇う必要があることが多かった。将来、AIは個人や中小企業にとっての「能力増幅器」になり得る。これは、小さなチームが以前は大企業しか扱えなかった仕事を達成できることを意味する。

しかしゲイツは、AIが自動的に公平性をもたらすわけではないと警告する。高品質のAIが富裕層だけに提供されれば、技術の進歩は格差をさらに拡大させる可能性がある。政府や慈善団体は、低所得層や発展途上国もこれらの能力にアクセスできるようにする必要がある。

これが、ゲイツがAIを過去の慈善活動と結びつける理由でもある。彼は、ゲイツ財団がAIを活用してエイズ、結核、マラリア、栄養失調などの分野の研究を加速させると同時に、医療、農業、教育プロジェクトがより良いツールを入手できるよう支援すると述べた。

05 人類に「保護区」を与え、ロボットに課税する

AIがもたらす雇用への影響に直面し、ゲイツは二つの非常に具体的なアイデアを提案した。

第一は、一部の仕事を人間のために確保することだ。

このアイデアは、彼の父親が晩年にアルツハイマー病を患った経験に由来する。介護者は、父親が自分のニーズを明確に表現できないときでも状態を評価し、いつ食事をし、休息し、ケアを受けるべきかを判断できた。ゲイツの見方では、こうしたケアに含まれる人間性には代替不可能な価値がある。

そこで彼は「人間保護区」という概念を提案した。自然保護区の一部の土地が開発可能でありながら、社会が積極的に保全することを選択するのと同様に、将来、AIやロボットが遂行できたとしても、人間が行い続けることを決定する仕事が一部存在するかもしれない。医療、教育、メンタルヘルス、高齢者介護がこのカテゴリーに含まれる可能性がある。

もちろん、この範囲は不変ではない。十分な労働力を持つ国は人間によるケアを維持することを好むかもしれない。急速に高齢化が進み、若年労働力が不足している国は、介護ロボットの使用により積極的かもしれない。

第二の提案は、ロボット税を再検討することだ。

現在、企業が人を雇う場合、給与税などのコストを負担しなければならない。しかし、ロボットの購入は事業経費として扱うことができる。ゲイツは、この税制が企業に人間の労働力を機械に置き換えるインセンティブを与えていると考えている。ロボットやAIがもたらす自動化の利益に一定の税を課せば、失業者の再訓練や社会保障の財源を確保できると同時に、企業が人間の労働力を置き換える決定をする前により慎重に検討するよう促すことができる。

ゲイツは、この提案が物議を醸すことを承知している。課税は一部の自動化を遅らせ、効率に影響を与える可能性があるからだ。しかし彼は、AIが十分に大きな生産性の向上をもたらすため、社会はその利益の一部を最も影響を受ける人々の支援に割り当てる必要があると考えている。

ゲイツの見方では、事前に準備すべきなのは新しいAIモデルだけではなく、AIがもたらす急速な変化に耐えられる社会そのものなのだ。