鉅亨網 / NOWnews
鉅亨網 / NOWnews

人工智慧趨勢已席捲整個市場,GPU(圖像處理器) 被廣泛運用來加速人工智慧計算,但 GPU 技術的局限性是否會減緩人工智慧的神經網路發展與創新?

在 EETimes 最近一次採訪中,Graphcore 首席執行長 Nigel Toon 接受一場訪問主題為:「IPU 是否為迄今為止最複雜的處理器?」時解釋說,雖然 GPU 擅長運行卷積神經網絡 (CNN) 但它們不適合運行更複雜的機器學習,像是強化學習或其他未來技術所需的神經網路。

他說道:「如果你要的只是基本前饋控制的 CNN,GPU 是一個非常好的解決方式,不過當你開始使用更複雜的神經網路時,就可能出現問題。我希望能夠透過多個層而得到反饋,而不是一次一層進行而得到。另外我還想要先能將訊息儲存在一旁,這麼一來,在我查看下一祥資料時,我可以將先前的訊息當作其上下文訊息。」

「如果我的數據正在變化 – 這意思是說,它是我可以平行輸入的數以百萬計個靜態圖像 – 如果它是影片,並且我對幀數順序有要求,那麼將它平行輸入,就更難利用 GPU 中的寬 SIMD 處理。」Toon 補充解釋道。

SIMD 小檔案

Single Instruction Multiple Data,單指令多數據流,GPU 是「由數個多執行緒架構的 SIMD 處理器所組成的 MIMD 多處理器環境」

卷積神經網路小檔案

在機器學習中,CNN (Convolutional Neural Networks) 是一種前饋神經網路,卷積神經網路是由一個或多個卷積層和頂端的全聯通層組成,同時也包括聯權重和池化層。

CNN 的人工神經元可以回應一部份覆蓋範圍內的周圍單元,可應用於語音辨識、圖像辨識,尤其對大型圖像處理有出色的表現。

IPU 的前瞻領導 Graphcore

專為機器學習應用程式研發設計 IPU 晶片的 Graphcore,於 2017 年創立,目前已經吸引到像是英國的人工智慧公司 DeepMind 創辦人 Demis Hassabis,包括以及 OpenAI 的創辦人 Ilya Sutskever 的支持,並且和其他許多在機器學習中領先業界的研究者合作,根據不同的問題來設計 IPU 相對應的解決架構。

他說:「我們訪問的所有在 AI 領域的發明家,他們都指出,使用 GPU 會限制他們研發創新」他補充說道,「如果看一下他們正在研究的卷積神經網絡的形式,因為遞歸神經網絡和其他類型的機器學習,像是強化學習,無法很好的映像到 GPU。由於沒有足夠好的硬件平台,研究領域受到阻礙,這也是我們試圖將 IPU 推向市場的原因」。

開發 ASIC 處理器

Toon 也接著介紹這款為了加速特定神經網路而打造的 ASIC (特殊應用積體電路) 加速器,它也能針對 AI 所使用的 FPGA 解決方案作處理,這證明了 GPU 工作效能不如預期。

他說,就機器智慧而言,它需要一種易於使用的處理器,並且專為機器智慧打造。

Graphcore 的 IPU 旨在容納整個機器學習模型,提供資料大規模的平行性、大量內存、以及最重要的大量記憶體頻寬。

最終效果便是非常快速的神經網路。與 GPU 相比,IPU 之於 CNN 的速度提高了 5 倍,就像是比起目前常見的靜態圖像處理,相對更複雜的圖像,它們的速度能提高至 50 倍

這些複雜的神經網路無疑是 AI 的未來,不過它們的發展速度仍取決於開發專用於 AI 的加速器。

更多精彩內容請至 《鉅亨網》 連結>>