據(jù)外媒報道，在當(dāng)?shù)貢r間周二發(fā)布的一封公開信中，埃隆·馬斯克和一群人工智能專家以及科技高管呼吁所有人工智能（AI）實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)。

(資料圖)

這封公開信由非營利性組織Future of Life Institute發(fā)布，信的開頭寫道：“廣泛的研究表明，具有與人類競爭智能的AI系統(tǒng)可能會對社會和人類造成深遠的風(fēng)險，這一點也得到了頂級AI實驗室的承認(rèn)?！?/p>

這封公開信獲得了1000多個簽名支持，其中包括蘋果聯(lián)合創(chuàng)始人史蒂夫?沃茲尼亞克（Steve Wozniak）、Stability AI CEO伊馬德?穆斯塔克（Emad Mostaque）、Sapiens的作者尤瓦爾?諾亞?哈拉里亞斯（Yuval Noah Hararias）、馬斯克、圖靈獎得主約書亞?本吉奧（Yoshua Bengio）、紐約大學(xué)名譽教授加里?馬庫斯（Gary Marcus）等，他們呼吁暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)至少6個月。

不出所料，OpenAI和微軟高管并沒有簽署這封公開信。此外，Meta首席人工智能科學(xué)家Yann LeCun的名字沒有出現(xiàn)在署名名單中。

這封公開信提到，6個月的暫停并不意味著AI總體發(fā)展的暫停，只是從目前危險的競賽中退后一步。

公開信指出：“只有在我們確信它們的效果是積極的，風(fēng)險是可控的，才應(yīng)該開發(fā)強大的人工智能系統(tǒng)?！?/p>

這封公開信要求AI實驗室和專家共同開發(fā)和實施一套安全協(xié)議，然后由獨立的外部專家進行嚴(yán)格審計和監(jiān)督。

在這封公開信發(fā)布的前兩周，也就是在今年3月14日，美國AI研究公司OpenAI推出了新一代大型語言模型GPT-4。GPT-4是迄今為止最先進的AI系統(tǒng)，它的能力既讓AI專家感到震驚，也讓他們感到恐懼。

GPT-4是一個多模態(tài)大型語言模型，即支持圖像和文本輸入，以文本形式輸出；擴寫能力增強，能處理超過25000個單詞的文本；更具創(chuàng)造力，并且能夠處理更細(xì)微的指令；在高級推理能力方面超過了2022年11月30日推出的AI聊天機器人工具ChatGPT。

這封信已有1126名科技領(lǐng)袖和研究人員簽名，除了馬斯克、辛頓和馬庫斯之外，還包括圖靈獎得主約書亞·本希奧、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素、 蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、Stability AI首席執(zhí)行官埃馬德·莫斯塔克等科技界領(lǐng)袖人物。

關(guān)鍵詞：