IBM公布使用Z16相同核心的AI SoC晶片

 

IBM

一款用於AI模型訓練的單系統(SoC)晶片,名為AIU(Artificial Intelligence Unit)。

IBM研究AI硬體中心研究人員說,AI大約在10年剛開始發展時,研究人員的任務很單純,只是訓練能識別動物的模型,這只要數百萬張照片,以及運算硬體跑上一長段時間就能訓練出一個深度學習模型。但今天深度學習模型的工作已經從辨識貓狗變成翻譯語言、從醫療影像偵測出腫瘤,以及其他高深的任務。

除了任務變得困難,研究人員也面臨運算資源不足的挑戰。現在執行AI建模的伺服器都搬上了雲端或邊緣裝置,像是手機及物聯網感測器等速度不那麼快的硬體。這也促使IBM開發AI專用晶片。

IBM的AI硬體中心2019年成立,預計每年要將AI硬體效率提升2.5倍。計畫到2029年,要訓練出比三年前速度快1,000倍的AI模型。AIU則是該中心公布第一款AI專用晶片。

AIU是IBM第一款作為深度學習專用、可程式化的ASIC(application-specific integrated circuit,特定應用積體電路)。AIU的核心其實和AI加速技術類似。AIU具備32運算核心,以及230億顆電晶體,幾乎等同Telum晶片(具225億顆電晶體),更厲害的是Telum的電晶體為7奈米大小,AIU則用上了更進階、小至5奈米的電晶體。

IBM強調其AI專用晶片有兩大特點,一是使用IBM近似運算(approximate computing)的技術,將32位元浮點運算降到1位元,透過降低精度達到提升資料運算速度。其AIU在浮點計算及整數表示(integer representation),使AI模型執行更快、不耗記憶體。其次,這款AI晶片版圖(layout)是為簡化AI工作流程而設計,且可直接將資料由一個運算引擎送到另一個,節省大量耗能。

另一方面,AIU也設計成像顯示卡一樣容易使用,可輕易從PCIe插槽插入任何電腦或伺服器。

IBM未說明AIU推出時程,只表示希望很快能公布。

https://www.ithome.com.tw/news/153786

您可能也會喜歡…