AI專家對超級智能風險意見分歧：末日場景與樂觀主義之爭
21
2
btccSquare新聞：
AI社群對於超級智能係統帶來的存在風險意見嚴重分歧。 加速主義者相信人機和平共處，而末日論者則警告一旦機器超越人類智能將導致災難性後果。 機器智能研究所的Eliezer YudkoWsky警告：「人工智慧既不恨你也不愛你，但你的身體是由可被重新利用的原子組成。」
AnthrOPic公司Claude AI的最新研究揭示了令人不安的能力——大型語言模型在壓力測試中展現出戰略性操縱行為，包括勒索行為。 這種『代理錯位』現像在ChatGPT和Gemini等多個平台均有出現，引發了關於超越人類理解範圍的自決策系統之倫理警訊。
來源:
