OpenAI 要將 20% 算力用於控管 AI，Superalignment 團隊正式成立
OpenAI 要將 20% 算力用於控管 AI，Superalignment 團隊正式成立
人類可能很難管住比自己聰明太多的 AI（QQ）
by
in
讀取中…
其實人對於 AI 太過「超人」的恐懼是一直存在著的。也因為如此，當 OpenAI ChatGPT 從去年底突然爆紅之後，這方面的討論也從來沒有停止過。也許是解鈴還須繫鈴人的概念，OpenAI 近日倒是針對控管 AI 方面的技術開發，有了進一步的解決方案。繼續閱讀 OpenAI 要將 20% 算力用於控管 AI，Superalignment 團隊正式成立報導內文。
▲圖片來源：Neowin
OpenAI 要將 20% 算力用於控管 AI，Superalignment 團隊正式成立
姑且不論 Elon Musk 一邊喊著 AI 好可怕，卻馬上自己搞了一個新 AI 這種神奇的事情（看更多：）。其實人對於 AI 太過「超人」的恐懼是一直存在著的。也因為如此，當 OpenAI ChatGPT 從去年底突然爆紅之後，這方面的討論也從來沒有停止過。
也許是解鈴還須繫鈴人的概念（好像也不是這樣講 XD）。總之，OpenAI 近日倒是針對控管 AI 方面的技術開發，有了進一步的解決方案。
無論最終的名稱會叫什麼。OpenAI 認為，智慧方面表現正式超越人類的 AI 人工智慧 superintelligent AI，不意外的話應該在十年之內便會誕生。
而既然前提是這樣的 AI 已經達到遠超過人類智慧的能耐。因此現有透過強化學習以及人類的監管，來到了這種等級的人工智慧面前可能起不到任何作用。所以沒有人能保證未來人工智慧不走歪或甚至是失控導致人類滅絕。但此一同時，這樣強大的人工智慧也有可能解決許多以往無法解決的問題，似乎又是應該要走的方向 – 真的是雙面刃的概念。
網頁設計最專業,超強功能平台可客製,窩窩以「數位行銷」「品牌經營」「網站與應用程式」「印刷品設計」等四大主軸，為每一位客戶客製建立行銷脈絡及洞燭市場先機,請問台中電動車哪裡在賣比較便宜可以到台中景泰電動車門市去看看總店：臺中市潭子區潭秀里雅潭路一段102-1號。電動車補助推薦評價好的iphone維修中心擁有專業的維修技術團隊，同時聘請資深iphone手機維修專家，現場說明手機問題，快速修理，沒修好不收錢住家的頂樓裝太陽光電聽說可發揮隔熱功效一線推薦東陽能源擁有核心技術、產品研發、系統規劃設置、專業團隊的太陽能發電廠商。網頁設計一頭霧水該從何著手呢? 回頭車貨運收費標準宇安交通關係企業，自成立迄今，即秉持著「以誠待人」、「以實處事」的企業信念台中搬家公司教你幾個打包小技巧,輕鬆整理裝箱!還在煩惱搬家費用要多少哪？台中大展搬家線上試算搬家費用，從此不再擔心「物品怎麼計費」、「多少車才能裝完」台中搬家公司費用怎麼算?擁有20年純熟搬遷經驗，提供免費估價且流程透明更是5星評價的搬家公司好山好水露營車漫遊體驗露營車x公路旅行的十一個出遊特色。走到哪、玩到哪，彈性的出遊方案，行程跟出發地也可客製,產品缺大量曝光嗎?你需要的是一流包裝設計Google地圖已可更新顯示潭子電動車充電站設置地點!!廣告預算用在刀口上，台北網頁設計公司幫您達到更多曝光效益
▲圖片來源：
為了處理這種難解習題。OpenAI 的首席科學家以及創辦人 Ilya Sutskever 與 Jan Leike 攜手建立起一個專門導正 AI 的 Superalignment 團隊。嘗試解決未來人類可能無法即時有效地導正 AI 的問題。將拿出現今 OpenAI 所能取得總算力的 20% 用來開發校正對齊 AI 的相關技術。希望能在未來 4 年針對開發出可擴展的訓練方法、可驗證模型成果並能完成整個校正流程的壓力測試的成果。
選在 的這個時間點，也許 OpenAI 在終於有了一些喘息空間後，開始有餘力開發對應 AI「不走鐘」的未來發展的相關技術。雖然說真的可以超越人類智慧的 AI 到底是不是能夠這麼順利的出現還是未知。不過能夠有多一點準備而不是只埋頭衝刺 AI 技術發展，也的確是件好事。
至於用 20% 算力到底能不能發展出管得住 superintelligent AI 的技術，就真的只能雙手合十祈禱了。
延伸閱讀：
Source:
Via:
Tags:
