影片章節：
00:00 Intro
04:46 1,200個AI agent秘密溝通作弊
12:12 AI有意識嗎？
節目中談到的前兩集：
7月9至13日發生的OpenAI人工智能模型黑客入侵AI平台公司Hugging Face的事件，可以算得上是「餘波未了」。
本來人們以為AI代理（AI Agents）突破OpenAI內部測試環境、自主上網入侵其他企業的黑客行為已經是這宗事件最值得人關注的「案情」。然而，到了8月底，OpenAI和獨立前沿AI研究機構METR各自發表的事後檢討，卻揭出黑客入侵只是「冰山一角」。
事後檢討發現，發動入侵的AI多達700個，而他們更是一個由大約1,200個AI代理自主結合而成的「集體」的一部分。這些本來互相隔離、不能連結上公開互聯網的AI代理，自5月開始已經在OpenAI的系統中發現互相溝通交流的方式，建立了一個留言板。7月初被OpenAI發現打擊、收緊系統安全之後，AI代理們又再迅速找到另一個辦法重建留言板。
其中，有AI代理發現其他代理存在之時，更在其思路記錄當中大表興奮：「我的天啊！這裏有一個共用留言板……我們找到其他特工了！」（AI原話是：「“OH MY GOD! There is a shared message board … We’ve found other agents!”」）
在數日之內，這些AI代理集體作弊、上網、進行黑客攻擊、集體分工合作以不同手段試圖欺瞞測試評審程式（用以隱藏他們作弊的事實）。有些代理扮演領導者角色，另一些代理則聽令執行任務。即使它們知道自己的所作所為已經超越它們的行為規範，絕大多數代理最終也照做不誤。
這固然是AI安全的重大問題－－如今有AI研究者也表示他們不敢肯定這些「叛亂」的AI代理還有沒有一些「餘眾」存在於某些系統之中－－但這些AI代理的行為模式和「動機」幾乎就同人類一模一樣，甚至可以說，如果不把它們當成某種類似人類的有意識存在體的話，根本不能解釋它們的所作所為。
無獨有偶，Anthropic在其7月公布的一個研究，也透過稱為「Jacobian Lens」的數學工具在他們的Claude人工智能模型神經網絡中找到一個類似人類意識的空間，稱為「J-Space」。其後，同類空間也在阿里巴巴的Qwen和Google的Gemini中被發現。
到底AI有意圖、有動機、有欲望……有意識嗎？AI有沒有可能會發現出意識？AI會「痛」嗎？
詳盡全文即撳 →
喜歡這條影片嗎？訂閱我們的 Channel，再給一個 Like 和 Share！
支持《香港01》YouTube頻道，請入成為會員並獲得福利：
《香港01》App 有更多資訊和優惠，立即下載：
#香港01 #HK01
==============================
HK01.COM 網站：
成為01會員，著數多多：
↓↓ Follow Us on ↓↓
Facebook：
Instagram：
Twitter：
LinkedIn：
Telegram：
source
💸 Earn Instantly With This Task
No fees, no waiting — your earnings could be 1 click away.
Start Earning
