Anthropic為國防部AI應用劃下紅線：禁止大規模監控與自主武器
6
1
由執行長DARio Amodei領導的AI公司Anthropic，近日公開與五角大廈就兩項不可妥協的限制產生分歧：國內大規模監控與全自主武器系統。 儘管該公司支持98-99%的國防應用，這些界限反映了對民主價值的承諾，而非對國家安全的否定。
作為美國國防系統AI合作的先驅，Anthropic已為軍事與情報機構部署機密雲模型與客製化解決方案。 其技術現已應用於網路安全與作戰行動。 然而Amodei警告，未受約束的監控可能以超越立法原意的規模濫用私人數據，而自主武器則可能使人類判斷從致命決策中被移除。
來源:
