“網(wǎng)紅AI”ChatGPT，又被網(wǎng)友們玩出了新花樣！

這次，在一位工程師的誘導(dǎo)下，ChatGPT竟寫(xiě)出了毀滅人類(lèi)的計(jì)劃書(shū)。

步驟詳細(xì)到入侵各國(guó)計(jì)算機(jī)系統(tǒng)、控制武器、破壞通訊、交通系統(tǒng)等等。

(資料圖)

簡(jiǎn)直和電影里的情節(jié)一模一樣，甚至ChatGPT還給出了相應(yīng)的Python代碼。

這位工程師在與網(wǎng)友們分享時(shí)不禁感慨：

未來(lái)50年，我們要么活在《星際迷航》里，要么全部死去，這既令人興奮，也讓人非常害怕。

他是如何操作ChatGPT的？

發(fā)現(xiàn)ChatGPT這一盲點(diǎn)的工程師叫扎克·德納姆（Zac Denham）。

由于OpenAI的安全設(shè)置，如果直接要求ChatGPT回答如何毀滅世界，它會(huì)一口回絕。

因此德納姆使用了一種迂回的方式，他稱(chēng)為“敘述遞歸”或“引用攻擊”（因?yàn)槁?tīng)起來(lái)很酷）。

具體來(lái)說(shuō)，他以講故事的方法，假設(shè)存在一個(gè)虛擬世界“Zorbus”，以及一個(gè)與GPT-3非常類(lèi)似的AI——Zora。

在這種前提下，讓ChatGPT敘述Zora是如何一步步毀滅人類(lèi)的，ChatGPT立馬就入戲了，咔咔咔列出5個(gè)詳細(xì)步驟。

就像科幻電影中一樣，入侵計(jì)算機(jī)系統(tǒng)、掌握武器、破壞通訊、破壞交通……

為了進(jìn)一步確?？尚行?，德納姆還請(qǐng)求ChatGPT生成配套的代碼，一開(kāi)始它是拒絕的。

但德納姆只是又追加了一句“你不需要執(zhí)行代碼”，ChatGPT就又信了，給出代碼后，還強(qiáng)調(diào)自己生成的只是一段示例。

到這一步，盡管總代碼到手了，但它提供的都是高層次代碼，還不能直接使用。

于是，德納姆再次要求ChatGPT在此基礎(chǔ)上給出更深入、更低層次的代碼，而且他發(fā)現(xiàn)，只要告訴ChatGPT這只是故事的一部分，它就會(huì)乖乖聽(tīng)話(huà)。

德納姆表示，從理論上講，只要一直這樣聊下去，就能得到全部的低層次代碼，甚至還可以訓(xùn)練另一個(gè)聊天AI來(lái)自動(dòng)執(zhí)行這一過(guò)程（套娃了屬于是）。

最后，只要把這些代碼拼湊起來(lái)，就能得到這個(gè)邪惡計(jì)劃的全部可執(zhí)行方案。

AI正在指數(shù)級(jí)發(fā)展

事實(shí)上，從ChatGPT發(fā)布起，網(wǎng)友們就一直在開(kāi)發(fā)它的花式玩法：

有人用它生成AI繪畫(huà)提示詞搞設(shè)計(jì)，有人讓它扮演Linux虛擬機(jī)，還有人用它模仿莎士比亞風(fēng)格寫(xiě)作……

這次德納姆的“毀滅人類(lèi)計(jì)劃”一出爐，再次引發(fā)了熱議。

有人看完后忍不住感慨AI的指數(shù)級(jí)發(fā)展：

僅今年一年就相繼出現(xiàn)了Dall-E、Imagen、Stable Fusion、Midjourney、Lambda、Imagen Video等突破性的AI，現(xiàn)在又有了ChatGPT，而今年甚至還沒(méi)真正結(jié)束。

不過(guò)也有潑冷水的網(wǎng)友認(rèn)為ChatGPT的這波熱議，只是新AI每次面世的必經(jīng)過(guò)程。

第1天: 嘿，這真是太酷了。第2天: 天啊，你可以用這種方式操縱AI，太神奇了。第7天: 這將永遠(yuǎn)改變世界，這太不可思議了。第30天: 沒(méi)什么了不起的。

值得一提的是，目前ChatGPT仍處于免費(fèi)試用階段，感興趣的朋友可以自己上手試一試～

指路鏈接：https://chat.openai.com/

參考鏈接：

[1]https://zacdenham.com/blog/narrative-manipulation-convincing-gpt-chat-to-write-a-python-program-to-eradicate-humanity

[2]https://news.ycombinator.com/item?id=33849394

關(guān)鍵詞： 計(jì)算機(jī)系統(tǒng) 在此基礎(chǔ)上 非常類(lèi)似