ザッカーバーグは、メタ社の人工知能ロードマップを概説した長文の記事を発表した。そのロードマップは、「パーソナル・スーパーインテリジェンス」の創造を目指している。

執筆者：シャオ・ジン（テンセントテクノロジー）

8月10日（米国現地時間）、マーク・ザッカーバーグは「未来はすべての人のもの：ポジティブな人工知能の未来への道」と題した長文記事を発表した。

表面的には、これは超知能、セキュリティ、オープンソース、インフラストラクチャに関する政策声明のように見えるが、この長文文書の背後には、より重要なテーマが隠されている。それは、Metaの将来の目標が「パーソナル超知能」を創造することである。

ザッカーバーグはこの概念について非常に明確な前提を示した。すなわち、超知能は最終的には少数の企業、政府、あるいは研究所によって制御されるべきではなく、より多くの一般の人々が利用できるようにしなければならない、というものだ。

過去2年間、人工知能業界における超知能に関する議論は、主にモデルがその能力をどの程度まで発揮できるか、そして人間の能力をはるかに超える能力を持つシステムが制御不能になるのをいかに防ぐかという点に集中してきた。ザッカーバーグ氏は、超知能自体が安全であったとしても、そのような力が最終的にごく少数の機関の手に渡れば、新たな権力格差が生じる可能性があると主張している。

したがって、彼が提案した解決策は非常に「メタ」である。

彼は、人工知能の将来的な発展における中核的な原則は、個人の能力向上を繁栄の源泉と捉えること、イノベーションを超知能の主な目的と捉えること、そして抑制と均衡を通じて安全性を確保することという3つの側面に焦点を当てるべきだと考えている。

彼の構想では、誰もが長期的に超知能を持つエージェントを傍らに置くことになる。そのエージェントは、あなたの仕事のスタイル、健康状態、家族構成、長期的な目標を把握し、調査、コーディング、製品設計、タスク計画、さらにはこれまで企業に依頼しなければならなかった作業の遂行まで支援してくれるだろう。

これは、ザッカーバーグがオープンソースモデル、AIを活用した雇用、セキュリティガバナンス、データセンターの構築、さらには米国のエネルギーとインフラ能力といった、一見無関係に見える複数のトピックを同じ記事に盛り込んだ理由も説明している。

これらすべては、同じ疑問に帰着する。もしパーソナル超知能が本当に次世代のコンピューティングプラットフォームになったとしたら、誰がそれを制御するのか、誰がその背後にある計算コストを負担するのか、そして誰がそれが何ができるかを決定するのか、という疑問だ。

ザッカーバーグの回答は、過去20年間のMetaの製品哲学を明確に反映している。

Facebookはすべてのユーザーにコンテンツの作成と配信能力を与え、InstagramとWhatsAppはそのつながりをさらに拡大させた。人工知能の時代において、Metaは同様の分散型モデルを再現し、大規模組織の知的能力を一般の人々にとって不可欠なツールへと変革することを目指している。

人工知能のセキュリティ問題に関しても、ザッカーバーグの見解はシリコンバレーの主流の議論と完全に一致しているわけではない。

彼は、将来警戒すべき真のリスクの一つは、超知能能力の過度な集中だと考えている。この論理に基づけば、Metaにとってオープンモデルは、OpenAIやAnthropicに対抗するための単なる技術的選択肢ではなくなった。

これは徐々に、ザッカーバーグが思い描く超知能社会のあり方の一部となってきた。より実践的なレベルでは、Meta社はこのコンセプトを探求するための新たなビジネスチャンスも模索している。

人工知能がチャットボットから、ユーザーに長期的に寄り添うことができるパーソナルインテリジェントエージェントへと進化するならば、真に重要な入り口はウェブページやモバイルアプリケーションではなく、ユーザーを継続的に理解し、いつでも行動を起こせるAIシステムとなるだろう。Metaは、ソーシャルリレーションシップ、コンテンツ、コミュニケーション製品、スマートグラスといったリソースを保有しており、これらのリソースは今、「パーソナルスーパーインテリジェンス」を中心に統合される機会を得ている。

ザッカーバーグの記事は、「Metaは最も強力なモデルを構築できるのか？」という問いよりも、より大きな問題を提起することを目的としている。

01 「超知能の制御」から「超知能の分配」へ

ザッカーバーグ氏は記事の中で、根本的な疑問を提起している。将来、超知能を所有するのは誰なのか？もし超知能が少数の企業、政府、あるいは研究所の手に集中した場合、社会に新たな権力格差が生じるのだろうか？

近年、人工知能のセキュリティ分野における重要な議論テーマの一つは、将来の超知能システムが人間の価値観と整合し続けることをいかに保証するか、いわゆる「一貫性の問題」である。多くの研究者は、人工知能の能力が人間の能力をはるかに凌駕し、その目標が人間の利益と矛盾する場合、制御不能なリスクにつながる可能性があると懸念している。 

画像：ザッカーバーグがメタAIのビジョンを概説している様子

しかし、ザッカーバーグは、「すべての人々の利益に完全に資する超知能」を創造するために技術的な手段だけに頼ることは、論理的に誤りであると主張している。

その理由は、人間社会には統一された価値観が存在しないという事実にある。個人、文化、集団によって、良い人生の定義は異なる。少数の機関によって設計・管理される超知能は、必然的に特定の集団を優遇する価値観を選択することになり、すべての人々の利益を代表することはできない。

そこで彼は、中央集権的で絶対的に正しい超知能を作り出そうとするのではなく、より多くの人々が独自の超知能を持つことを認め、個人、企業、組織間の競争を通じて新たな力関係を形成する方が良いという代替案を提案した。

ザッカーバーグはこの点を説明するために、「超知能の弁護士」を例に挙げている。

世界でたった一人だけが超人的な弁護士能力を持っていたとしたら、その人物は法制度において圧倒的な優位性を得ることになるだろう。しかし、もし誰もが同様の能力を持っていたとしたら、法的資源の分配はより公平になり、一般市民と大機関との間の情報格差は縮小するだろう。

同様に、もし1つの組織だけが超高度なサイバーセキュリティ能力を保有している場合、それが最大のセキュリティリスクとなる可能性がある。しかし、防御側も強力なAIツールを保有していれば、デジタルシステムの全体的なセキュリティレベルは実際に向上する可能性がある。

ザッカーバーグの枠組みでは、人工知能の安全性は、その能力を制限することだけに頼ることはできない。より重要なのは、超知能が無制限の権力集中を形成することを防ぐことである。

02 将来における人工知能の最も重要な製品形態

このコンセプトに基づき、Metaは「パーソナル・スーパーインテリジェンス」というアプローチを推進している。

ザッカーバーグ氏は、将来最も重要な人工知能の製品形態は、質疑応答型のチャットボットから、ユーザーを長期的に理解し、目標達成を支援できるパーソナルなインテリジェントエージェントへと進化すると考えている。

このインテリジェントエージェントは、ユーザーの日常生活におけるスマートアシスタントとなり、個人の好み、目標、長期的なニーズを理解し、ユーザーの健康、仕事、家族管理、財務計画、学習と成長を継続的に最適化できるよう支援します。

現在のほとんどのAIツールとは異なり、将来のパーソナルAIエージェントの中核的な価値は、情報提供からユーザーに代わって行動を起こすことへと拡大するでしょう。例えば、ユーザーの情報整理、インスピレーションの喚起、タスクの計画、ユーザーの健康データに基づいたライフスタイルの提案、さらには家族の活動の手配まで支援できるようになります。

ザッカーバーグ氏はプライバシーの重要性を強調している。パーソナル・スーパーインテリジェンスが人々の生活に真に溶け込むためには、大量の個人情報にアクセスするためのユーザーからの承認を得る必要がある。Metaは、将来のパーソナル・インテリジェンス・エージェントは「完全プライベートモード」を提供すると提唱している。このモードでは、Meta自身でさえユーザー情報を閲覧したり、他者にアクセスを許可したりすることはできない。

これはまた、Metaが確立しようとしている新しいタイプの人間と機械の関係性を表しています。人工知能は、企業が所有するツールから、個人が所有する能力へと変化するでしょう。

雇用と自動化に関する議論において、ザッカーバーグの見解は従来の常識とは大きく異なっている。彼は、超知能の最も重要な貢献は、単に人間の仕事を置き換えることではなく、これまで不可能だった新しいものを人類が創造するのを助けることにあると主張している。

歴史的に見て、あらゆる主要な技術革新は失業問題への懸念を引き起こしてきた。産業革命からインターネット時代に至るまで、機械が多くの仕事を奪うのではないかという不安が絶えず存在してきた。しかし、最終的には、技術は生産性を向上させただけでなく、新たな産業や職業を生み出してきた。ザッカーバーグは、人工知能の時代も同様の道をたどると考えている。

将来における真に重要な変化は、機械がより多くの反復作業を担うようになることではなく、これまで大企業や専門組織だけが習得できたスキルを一般の人々が身につけるようになることである。

個人は人工知能を活用することで、大規模なチームを必要とせずに、製品設計、ソフトウェア開発、市場調査、さらには起業までを行うことができるようになる。これは企業の組織形態を大きく変革するだろう。

将来の企業は規模が小さくなるかもしれないが、個々の生産性は向上するだろう。これまで高コストや技術的な障壁のために不可能だった多くのアイデアが、人工知能ツールの普及によって実現可能になる。ザッカーバーグは、超知能は単なる自動化された機械ではなく、最終的にはイノベーションの基盤となるべきだと考えている。

03 オープンソースエコシステムの動向：Metaの人工知能競争戦略

ザッカーバーグ氏の記事では、彼の並外れた知性に加えて、オープンソースも重要なテーマとなっている。

Metaは長年にわたりオープンソースモデルを支持しており、これはクローズドモデルを重視する一部の競合他社とは明確に異なる点である。ザッカーバーグ氏は、オープンソースはイノベーションを促進するだけでなく、セキュリティも強化すると考えている。

画像：Meta AIの責任者である王濤氏は、同社が間もなくMuse Spark 1.2のオープンソース版をリリースすると発表した。

彼の論理は、より多くの研究者、開発者、企業がこのモデルにアクセスできるようになることで、より多くの人々が脆弱性を発見し、システムを改善し、迅速な技術革新を推進できるというものだ。逆に、超知能が少数の機関によって長期間管理されると、社会には十分な抑制と均衡が欠如するだろう。

ザッカーバーグ氏は、米国は現在、チップ設計などの分野で世界的な競争において優位に立っているものの、エネルギー、データセンター、インフラの速度といった面で課題に直面していると考えている。人工知能における将来の競争は、アルゴリズムだけでなく、エネルギーと計算能力も重要な要素となるだろう。

彼は、米国は開かれた生態系における優位性を維持しながら、インフラ開発を加速させる必要があると強調した。

モデルのトレーニングと改良におけるデータ利用に関して、ザッカーバーグ氏は、米国は過度な規制によって競争力を弱めるべきではないと考えている。同氏は、人工知能の開発は根本的に人間の知識の蓄積に基づいており、モデル間の相互学習は技術進歩への重要な道筋であると主張する。米国がオープンソースのエコシステムを過度に制限すれば、意図せずして他国に機会を与えることになるかもしれない。

セキュリティ問題に関して、ザッカーバーグ氏は人工知能がもたらす潜在的なリスクを否定していない。彼はサイバーセキュリティ、生体認証のリスク、政府権力の拡大といったテーマに焦点を当てた。

彼の主張の核心は、人工知能のリスクに直面した際、社会は単に技術的能力を制限するのではなく、自らの防御を強化すべきだという点にある。

例えば、サイバーセキュリティの分野では、攻撃者だけが高度な人工知能ツールを保有している場合、リスクは確かに増大します。しかし、企業、政府、そして個人が皆、人工知能を活用して自らの防御能力を強化できれば、システム全体のセキュリティレベルも向上するでしょう。

生物学的および化学的リスクに関して、ザッカーバーグ氏は、政策は科学的知識の発展を阻害するのではなく、有害物質の生産と拡散を制限することに重点を置くべきだと考えている。

人工知能が医薬品開発やライフサイエンス研究を加速させるにつれ、規制システムもそれに合わせてアップグレードする必要がある。さもなければ、従来の承認プロセスがイノベーションのボトルネックとなる可能性がある。

04 データセンターにおける「コミュニティアカウント」

人工知能開発競争は、インフラ整備の時代に突入しつつある。

大規模なデータセンター、エネルギー供給、そしてコンピューティングリソースは、スーパーコンピューター開発の基盤を形成している。しかし同時に、アメリカ社会は、大規模データセンターの建設に伴うエネルギー消費、水資源への圧力、そして環境への影響について、ますます懸念を強めている。

ザッカーバーグ氏は、AIインフラ開発の恩恵は地域社会と共有されるべきだと強調した。メタ社は「コミュニティ契約」という概念を提案し、データセンターの立地場所がより多くの雇用機会、教育投資、公共サービス支援を受けられることを期待した。

彼は、データセンターは単なる資源消費施設としてではなく、過去の鉄道、電力、インターネットインフラと同様に、地域経済発展を促進する長期的な資産として捉えるべきだと考えている。

画像：米国ルイジアナ州リッチランド郡にあるMeta社のデータセンタープロジェクト。

これはまた、メタ社が人工知能への大規模投資に関して外部から抱かれている疑問に対する、同社からの重要な回答でもある。

将来の人工知能分野における競争には莫大な資本投資が必要となるだろう。そして、こうした投資が社会的に受け入れられるかどうかは、テクノロジー企業が解決しなければならない課題となる。

コーポレートガバナンスに関して、ザッカーバーグ氏は、超知能の開発は一人のリーダーの判断に頼るべきではないと考えている。CEOが超知能の導入に関する最終決定権者となるのは理想的ではないと認識している。そのため、Metaは、独立した取締役会がモデルリリースのセキュリティ基準の設定や主要モデルのリリース審査に参加できる新たなガバナンスメカニズムを構築している。

実際、この取り決めは、人工知能の能力が大手テクノロジー企業に集中していることに対する長年の懸念に対応するものである。

同時に、ザッカーバーグ氏は、人工知能が自律的に自己改善する能力を獲得した場合に生じる可能性のある極めて深刻なリスクについても言及した。

人工知能システムが継続的に能力を向上させることができれば、計算リソースが決定的な要因となる可能性がある。理論的には、継続的な自己最適化能力を持つシステムは、他のシステムとの差を急速に広げることができる。

したがって、人工知能の再帰的な自己改善を実現するためには、将来的にある程度の計算能力を投資する必要があるとしても、人間の目標を達成するためには、ほとんどの知的機能は依然として人間によって制御されるべきだと彼は考えている。

05 結論：次世代コンピューティングプラットフォームのエントリーレベル市場を目指す

過去1年間のメタの行動から判断すると、この長文記事は人工知能のセキュリティ問題について論じているように見えるが、彼が本当に懸念しているのは明らかにメタの将来である。

パーソナル超知能、オープンモデル、スマートグラス、そして大規模なコンピューティング投資――これらの一見無関係な取り組みは、一つの物語に織り込まれている。すなわち、AI競争の次の段階は、最も強力なモデルを保有する者から、人間とAIとの最も長く、最も頻繁な接点をいかに制御できるかへと移行するだろう、ということだ。

これはメタにとって非常に馴染み深い戦争だ。

過去20年間、Facebook、Instagram、WhatsAppなど、Metaの核となる資産は常にユーザーへのゲートウェイであった。しかし、モバイルインターネット時代においては、AppleやGoogleといったオペレーティングシステムによって制約を受けてきた。人工知能は、ザッカーバーグ氏にコンピューティングプラットフォームを再定義する機会を提供する。誰もが、自分を継続的に理解し、様々なサービスを呼び出し、自分に代わって行動できるインテリジェントエージェントを持つことができれば、そのインテリジェントエージェント自体が新たなオペレーティングシステムになり得るのだ。

スマートグラスの意味合いも変化しました。もはや単なる新しいタイプのハードウェアではなく、パーソナルAIが現実世界から情報を取得し、ユーザーと継続的に対話するための端末となる可能性を秘めています。オープンモデルは、テクノロジー業界の戦略であるだけでなく、Metaテクノロジースタックの適用範囲を可能な限り拡大することも目的としています。

しかし、ここにはさらなる検討に値する矛盾が存在する。

ザッカーバーグ氏は、「超知能はすべての人に属する」という考え方を提唱することで、人工知能機能の集中化に関する懸念に対処しようとしている。しかし、個々のAI機能の真の限界は、依然としてモデル、計算能力、端末、配信チャネル、そして最も重要な個人データに依存している。超知能は誰でも利用できる可能性があるが、それを支えるインフラ自体には強力な規模の経済性が存在する。

言い換えれば、人工知能のパーソナライゼーション機能が高ければ高いほど、その基盤となるプラットフォームの集中度も高くなる可能性がある。

したがって、Metaのアプローチの最終的な成功は、十分に強力なモデルを構築できるかどうかだけでなく、おそらくより重要なこととして、AppleとGoogleを初めて迂回して独自の制御されたコンピューティングゲートウェイを確立できるかどうか、そして人工知能がどのアプリケーションよりもユーザーを深く理解し始めたときに、この人工知能を真に所有するのは誰なのか、そして結果として得られるデータと関係性を真に所有するのは誰なのか、という点にもかかっている。