從理專到秘書，看 AI 代理的信任挑戰：我們能相信它們的自主決策嗎？

隨著 AI 代理 (AI agent) 技術在矽谷迅速擴張，2024 年投入資金高達 82 億美元，這些自主系統正逐步滲透金融、基礎設施及決策層面。然而，在這場技術革命背後，一個關鍵但常被忽略的問題浮上檯面：「」

Silicon Valley poured $8.2B into AI agents last year.

Soon, they will control our money, infrastructure, and decision-making.

But there’s one problem no one’s talking about:

How can we verify if AI agents are telling the truth? pic.twitter.com/zEj7z5mGyX

— Sergey Gorbunov (@sergey_nog) april 22, 2025

矽谷熱投 AI 代理，但信任基礎仍是「黑盒子」？

ChainLink 共同創辦人 Sergey Gorbunov 昨晚發文指出，目前 AI 代理雖被包裝成能獨立完成複雜任務的自主系統，但其實多數仍屬「黑盒子」式運作——即使用者無法得知其內部決策過程，只能選擇盲目信任：

真正具自主能力的 AI 代理應同時具備「」與「」的特性，然而現今的系統往往不符合這個標準。

為何「可驗證性」才是真正的安全保障？

Gorbunov 強調，可驗證性代表 AI 代理需要能清楚說明「」：

若缺乏這些機制，當 AI 代理獲得關鍵基礎設施的控制權，將可能釀成極大風險。這種「驗證鴻溝 (verification gap)」，一旦未被妥善處理，恐怕會成為科技發展中的隱患。

三種 AI 代理類型，各有不同驗證需求

根據 EigenLayer 創辦人 Sreeram Kannan 所述，AI 代理依服務對象可分為三類：

• 個人代理 (Personal Agents)：主要服務個人，如數位助理，驗證需求相對較低。

• 公共代理 (Commons Agents)：服務社群，需要中等強度的驗證以確保公平與可信。

• 主權代理 (Sovereign Agents)：完全獨立於人類操作之外，需具備最高級別的驗證能力。

未來五年內這些主權代理可能控制數兆美元的資產，若驗證機制不夠成熟，將如同「」。

三層次驗證系統：重建 AI 代理的信任基石

為解決驗證問題，Kannan 則提出一個三層次的驗證框架：

這個架構可使 AI 行為透明化，以提升信任度。

從保險理賠到預測市場：可驗證 AI 的實際應用

Kannan 還提到可驗證 AI 代理在保險理賠中的潛在應用，目前保險業由單一公司兼任發行與審核角色，常引發信任危機：

透過可驗證 AI 代理，理賠程序可轉為獨立審核，並以透明機制執行與審計，增強公平性與公信力。

此外，平台如 EigenBets 結合 ZK-TLS 與可驗證推論層技術，能讓預測市場運作更透明，減少對中心化權威的依賴。

區塊鏈 + AI：打造 AI 代理的未來門票

面對愈加複雜的 AI 系統，Gorbunov 認為區塊鏈技術能提供必要的加密信任基礎，並協助建立強而有力的驗證架構：

結合區塊鏈的 AI 代理，不僅可提升可信度及靈活性，更讓智能合約真正變得「智能」，為未來 AI 應用鋪路。

文末，Gorbunov 也附上其在 YouTube 節目《The Future of AI》連結，強調 AI 代理未來的關鍵發展不只是打造更強大的模型，而是能夠：

• 證明其行為成果

• 透明呈現推理過程

• 透過加密機制贏得信任

他強調：「唯有實現這三大目標，AI 代理才能在未來的系統中安全運行。」