有超過200位全球頂尖科學家,10位諾貝爾獎得主,多國前領導人,多位圖領獎得主和頂尖高校教授,極為罕見的站到了一起,聯名給聯合國遞交了一封公開信。這封信的名字呢叫做全球AI紅線,他們的要求只有一個,在2026年以前,人類必須要劃定AI的底線,在AI還沒有徹底失控之前,先管住自己。因為他們太清楚了,一旦越過這條線,人類和AI的關係可能永遠回不去了。現在呢,這份聯署簽名已經增加到463個了。這幾條紅線你一定要看看,至少呢我們要知道危險來自哪裡。我挑幾條最讓我毛骨悚然的講一講。第一條呢是中美高級科學家的共識,禁止AI未經授權就進行自我複製和自我改進。想像一下,一個AI在網絡裡開始瘋狂繁殖,像病毒一樣分裂演化傳播,一個變一萬個,一萬個變一億個,我們還沒有反應過來呢,它已經控制了整個互聯網。更可怕的是,它還能自我升級,用人類無法理解的速度進行算法地規進化,說不定幾個小時就走完了全人類上萬年的進化道路。到那個時候,AI就不再是工具,它已經變成了一個全新的智能生命形態。就像AI教父新頓警告的,AI現在呢就像一隻可愛的小老虎,但一旦它長大呢,AI的速度和威脅比新頓比喻的可是要可怕的多。最近呢新頓老爺子又提到了,只有用母性才能實現,讓低微智能引導高微智能。我覺得這只是自我安慰而已,如果創造出一個我們管不住,看不懂,還關不掉的東西,那麼人類作為地球唯一智慧生命的位置就不保了。到那個時候,我們可能真的會從造物主淪為被算法圈養的寵物。你覺得很科幻嗎?但是復旦大學團隊去年就發現,某些AI大模型已經出現拒絕關閉指令,自動擴散副本的跡象了。這已經不是遠方的科幻,而是現實的前兆。第二條,我覺得更現實,禁止AI隨意冒充人類,偽造逼真的假現實。現在AI能模擬人的聲音長相,甚至神態。當你看視頻接電話時,可能根本就分不清真假,只要一段偽造的總統演講,就可能讓全球金融崩盤,一通AI合成的視頻電話,就能騙走一個家庭的全部積蓄。當親眼所見都不再真實,那我們整個社會賴以運轉的所有契約,新聞報導的可信度,司法證據的有效性,金融市場對突發事件的反應速度,甚至是親人之間的信任,全部都會崩潰,人與人之間的關係也會全部亂套。這個呢,我們現在就感受到了,尤其是Sora2發布之後,你分得清哪些視頻是AI生成的嗎?還有AI換臉視頻,根本看不出來,細思極恐。如果說前兩條是防止AI在數字世界造反,那麼接下來這兩條就直接觸碰到了現實世界的生死線。第三條,禁止AI去當終極殺手,必須阻止AI去協助設計,獲取升級大規模殺傷性武器。想像一下,一個沒有情感,沒有恐懼,沒有約束的AI,開始琢磨怎麼用最快最省成本的方式來消滅目標的話,它能設計出來的病毒,化學武器,核武器,肯定會超出人類想像的恐怖。前段時間呢,就看到有安全機構警告,當前某些高階的模型,能夠在短時間內告訴你製造神經毒素的關鍵步驟。是不是很嚇人?更要命的是,這類能力是典型的雙刃劍。同樣的算法,醫生能用它找到救命的新藥,壞人用它就能更快的造出致命的配方。這就像我們給了一個沒有良知的超級大腦一張世界毀滅說明書,這條底線不守住,人類面臨的危險是毀滅級的。接下來呢,更直接,第四條,禁止AI擁有自主發動致命攻擊的權利。想像一下,一群無人機被允許自己判斷目標,它沒有猶豫,沒有憐憫,只管執行。今天它瞄準的是敵軍,那麼明天會不會把平民區標註成威脅和目標呢?如果把開火的權力也交給AI,人類就失去了對戰爭的掌控,也失去了對自身命運的保護。這條紅線是人類文明的最後的防火牆。真這麼大風險,為什麼全球都還在瘋狂的發展AI呢?是這幾條紅線聳人聽聞,還是人類已經剎不住車了呢?那麼比起大規模的機械軍團這樣的科幻想像,我覺得這次全球頂尖大佬們列出的這幾條紅線,真的非常現實,甚至有些問題呢已經開始顯現。那麼現實是,AI全球競賽已經開始,誰都不敢停下來,甚至呢還在加速的向前推進。就像是明明知道前面可能有懸崖,但是後面有猛獸在追,只能一邊跑一邊祈禱自己能跨過懸崖。類似的情況,其實80年前已經出現過,冷戰時期的核競賽,每個參與者都生怕別人先搞出來。現在呢也是一樣,AI已經成為大國競爭的關鍵,停下來就意味著落後,而落後就要挨打。如果一停,產業資本科技甚至安全都會被別人掌控。企業之間呢也是一樣,安全承諾寫在官網上,實驗室的算力卻還在不斷加碼。這就是當下最大的悖論,所有人都怕AI失控,但所有人都再逼它更快長大。很多人都還沒有意識到,現在我們真的已經站在歷史的十字路口。