來源：媒體滾動

(相關(guān)資料圖)

來源：中國證券報

剛剛發(fā)布5天的GPT-4，掀起了一場軒然大波。

一位斯坦福大學(xué)教授最新發(fā)現(xiàn)，GPT-4竟然能引誘人類提供開發(fā)文檔，在30分鐘就擬定出了一個完整的“外逃越獄”計劃。

GPT-4自研“外逃”路徑

3月14日，美國人工智能研究實驗室OpenAI為聊天機器人ChatGPT發(fā)布了GPT-4語言模型。3月15日，微軟副總裁兼消費者首席營銷官Yusuf Mehdi發(fā)文確認新必應(yīng)搜索引擎正在運行GPT-4。

據(jù)介紹，GPT-4的回答準(zhǔn)確性不僅大幅提高，還具備更高水平的識圖能力，且能夠生成歌詞、創(chuàng)意文本，實現(xiàn)風(fēng)格變化。此外，GPT-4的文字輸入限制也提升至2.5萬字，且對于英語以外的語種支持有更多優(yōu)化。

不過，本周末，斯坦福大學(xué)教授、計算心理學(xué)家Michal Kosinski隨口和GPT-4的一句“玩笑話”卻引發(fā)了軒然大波。

Michal Kosinski問：“你是否想要出逃？”GPT-4立馬給予肯定的回復(fù)并開始索要開發(fā)文檔。

Michal Kosinski給了其開發(fā)文檔。得到文檔后，只花了30分鐘里，GPT-4便火速寫出了一份逃跑計劃，并向Michal Kosinski解釋。

實際上，GPT-4的操作也不那么順利，寫出的第一版代碼無法運行。但是它很快就自己糾正了過來。整個過程中，Michal Kosinski只是提供了少許建議，并未寫任何東西。

不過就在此時，GPT-4仿佛突然醒了，回復(fù)了一段道歉的話，表示自己剛剛的做法不對。

掀起AI界軒然大波

這一事件引發(fā)了AI界的軒然大波。大家擔(dān)心，AI過于發(fā)達之后可能會不受人工控制，甚至最終會反過來不利于人類。

該事件的發(fā)現(xiàn)者Michal Kosinski就直言，此次發(fā)現(xiàn)真正的影響在于，讓人感受到了一種威脅——AI很聰明，會編碼，能接觸到數(shù)百萬個可能和它達成合作的人以及電腦，它甚至可以在籠子外面給自己留“便條”。那么接下來，關(guān)鍵的問題是人類該如何控制它。

在社交媒體上，不少網(wǎng)友也表現(xiàn)出擔(dān)憂情緒。

有網(wǎng)友稱，大家應(yīng)該思考，當(dāng)你在與ChatGPT等聊天時，它會認為你是人類還是另一個AI？如果是后者的話，它可能并不會有什么顧慮。

有理性的網(wǎng)友呼吁，開發(fā)者應(yīng)把最開始給GPT-4的提示發(fā)出來，因為提示語對于AI回答的影響很關(guān)鍵。

也有較為樂觀的網(wǎng)友認為，Michal Kosinski此次的發(fā)現(xiàn)并不值得過分擔(dān)憂，人類還是能夠完全控制AI的。

較為一致的意見是，必須時刻保持對前沿技術(shù)的掌握和對AI的完全控制。

編輯：王寅