報導揭露 OpenAI 收到上千迴紋針惡作劇，警告 AI 可能導致的世末日危機
報導揭露 OpenAI 收到上千迴紋針惡作劇，警告 AI 可能導致的世末日危機
競爭對手的幽默裡，含有相當高的警示意味
by
in
讀取中…
有媒體爆料，其實在去年的時候，堪稱有著相當深淵源的 OpenAI 與 Anthropic 之間，發生了參雜了惡作劇、警告與幽默成分的事件。繼續閱讀報導揭露 OpenAI 收到上千迴紋針惡作劇，警告 AI 可能導致的末日危機報導內文。
報導揭露 OpenAI 收到上千迴紋針惡作劇，警告 AI 可能導致的末日危機
人們對於負責任 AI ／人工智慧安全性的危機感，其實早在去年甚至更早之前，就已經有許多討論。這些早期的警覺心，甚至還造成了目前正在浪頭上的生成式 AI 的代表性品牌 OpenAI 的前成員，在 2021 年就選擇因如何更負責任地開發 AI 技術而分道揚鑣開立新的公司 Anthropic。
有意思的是，在最近 OpenAI 因董事會開除 Sam Altman（好啦我知道回鍋了）的事件延燒之下，除了傳出董事會曾尋求 Anthropic 執行長 Dario Amodei 接任甚至將兩間公司合併的消息（顯然是沒成功）。甚至還有媒體爆料，其實在去年的時候，兩家堪稱有著相當深淵源的公司裡，還發生了參雜了惡作劇、警告與幽默成分的事件。
根據外媒報導，Anthropic 的一名員工在去年時，曾將上千枚組合成類似 OpenAI Logo 形狀的迴紋針，寄到了 OpenAI 位於舊金山的公司。雖然直覺看，會覺得這好像是個還蠻不錯（且有心）的禮物。不過就報導中的解讀，其實以迴紋針（Paper Clips）在人工智慧的領域來說，是可以聯想到著名的「paper clip maximizer」一種類似於黑鏡的科技走鐘的發展情境腳本。
所以，這被判斷為一種惡作劇警告的行為。
想知道購買電動車哪裡補助最多?台中電動車補助資訊懶人包彙整
；推薦評價好的iphone維修中心擁有專業的維修技術團隊，同時聘請資深iphone手機維修專家，現場說明手機問題，快速修理，沒修好不收錢住家的頂樓裝太陽光電聽說可發揮隔熱功效一線推薦東陽能源擁有核心技術、產品研發、系統規劃設置、專業團隊的太陽能發電廠商。網頁設計一頭霧水該從何著手呢? 回頭車貨運收費標準宇安交通關係企業，自成立迄今，即秉持著「以誠待人」、「以實處事」的企業信念台中搬家公司教你幾個打包小技巧,輕鬆整理裝箱!還在煩惱搬家費用要多少哪？台中大展搬家線上試算搬家費用，從此不再擔心「物品怎麼計費」、「多少車才能裝完」台中搬家公司費用怎麼算?擁有20年純熟搬遷經驗，提供免費估價且流程透明更是5星評價的搬家公司好山好水露營車漫遊體驗露營車x公路旅行的十一個出遊特色。走到哪、玩到哪，彈性的出遊方案，行程跟出發地也可客製廣告預算用在刀口上，台北網頁設計公司幫您達到更多曝光效益；
電動車補助
「迴紋針最大化」這樣的假設，據稱是出自於牛津大學哲學家 Nick Bostrom 對於 AI 人工智慧發展的風險所做出的實驗假設。其所假設的狀況，就是當你命令 AI 去盡可能大量製造迴紋針時，其可能會因為極致遵從指令，導致像是現實資源如金屬、勞力、能源，還有不斷改進製造方式而變得越來越強大到難以想像地步，以致於反過來威脅人類生存的情況。
（BTW，上面的解釋我是問 AI 得來的答案）
在 Bostrom 的結論裡，就有提到我們應該要對於向超級智慧所下的願望感到戒慎恐懼，因為它很可能會成真（編按：顯然這裡講的是會「意想不到」的那種成真法）。因此 Anthropic 的員工會因為認同自己公司的理念而想要進一步警示當時已經有了發展突破的 OpenAI，好像也不是太難理解？
最近這一波宛如宮鬥一般的 。據稱也與 AI 發展安全性的政策做法有很大的關聯。其實這樣的議題在去年生成式 AI 突然大熱門的潮流中也曾引發需要急踩煞車的討論。只能說，隨著 AI 在軟硬體方面都更高度發展之後，類似的話題被提到的頻率很可能也將越來越高。只希望，各方的警告將可以讓人類能避開所有黑鏡等科技大走鐘劇情中的發展…（希望）
｜
延伸閱讀：
Tags:
