你的位置:首頁 > 互連技術(shù) > 正文

炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵

發(fā)布時(shí)間:2023-11-29 責(zé)任編輯:lina

【導(dǎo)讀】聲音是人與人交戶的重要手段,在AI興起的現(xiàn)今,也是人與機(jī)器相互溝通的手段之一。從模擬階段的留聲機(jī)開始到現(xiàn)在,人類對(duì)于高清化、高保真的追求一刻沒有停歇過,也逐漸擺脫了線束的約束。對(duì)音頻來說,芯片至關(guān)重要,它既要擁有足夠的算力,也要擁有足夠低的功耗。


著名作家海倫·凱勒曾說過這樣一句話,“盲隔絕了人與物,聾隔絕了人與人?!笨梢娐犃Φ闹匾裕纱丝梢钥闯?,人的一生耳朵是最忙的感知系統(tǒng)之一。


聲音是人與人交戶的重要手段,在AI興起的現(xiàn)今,也是人與機(jī)器相互溝通的手段之一。從模擬階段的留聲機(jī)開始到現(xiàn)在,人類對(duì)于高清化、高保真的追求一刻沒有停歇過,也逐漸擺脫了線束的約束。對(duì)音頻來說,芯片至關(guān)重要,它既要擁有足夠的算力,也要擁有足夠低的功耗。


據(jù)SIG預(yù)測,到2027年藍(lán)牙音頻傳輸設(shè)備年出貨量將達(dá)18.4億臺(tái),2023年~2027年的年復(fù)合增長率為6%,藍(lán)牙數(shù)據(jù)傳輸設(shè)備年度出貨量將達(dá)到18.7億臺(tái),2023年~2027年的復(fù)合年增長率為11%。


ICCAD 2023上,炬芯科技股份有限公司董事長兼CEO周正宇博士博士分享了炬芯在AI大背景下,如何為音頻芯片提供更多創(chuàng)新。


20多年專注音頻領(lǐng)域


“炬芯的前身就是原來的炬力集成,我們?cè)谛袠I(yè)中做了20多年音頻,2005年炬力集成基于便攜式音頻在美國上市,2021年炬芯基于藍(lán)牙音頻在科創(chuàng)板上市?!敝苷畈┦窟@樣介紹道。


炬芯2023年半年報(bào)和官網(wǎng)顯示,其核心產(chǎn)品包括藍(lán)牙音頻SoC芯片、端側(cè)AI處理器芯片、便攜式音視頻SoC芯片三類。


藍(lán)牙音頻 SoC 芯片系列主要應(yīng)用于藍(lán)牙音箱(含TWS音箱、智能藍(lán)牙音箱)、Soundbar、智能手表、藍(lán)牙耳機(jī)(含TWS耳機(jī)、開放式OWS耳機(jī))、無線電競耳機(jī)等。


炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵


端側(cè)AI處理器芯片系列是基于端側(cè)的帶有人工智能加速器的 系統(tǒng)級(jí)音頻處理器,致力于提供智能物聯(lián)網(wǎng)AIoT端側(cè)低功耗算力的芯片平臺(tái),也是炬芯主營的音頻產(chǎn)品和人工智能技術(shù)的重要結(jié)合點(diǎn),可滿足市場未來日新月異的低功耗端側(cè)設(shè)備的人工智能應(yīng)用需求。


炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵


便攜式音視頻SoC芯片系列是炬芯最早耕耘的、最成熟的產(chǎn)品線,全球市場占有率長期較高,搭載了公司長期積累的、較先進(jìn)的低功耗音視頻處理技術(shù)。該系列芯片主要針對(duì)便攜式高品質(zhì)音視頻編解碼類產(chǎn)品的應(yīng)用。


炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵


具體從市場來看,炬芯在中高端品牌藍(lán)牙音箱市場份額明顯增長,下一步會(huì)通過產(chǎn)品持續(xù)迭代升級(jí)和優(yōu)化產(chǎn)品組合繼續(xù)提升在中高端品牌的滲透率;低延遲高音質(zhì)市場從有線連接向無線連接轉(zhuǎn)換的趨勢,帶來了存量市場轉(zhuǎn)化和新增需求兩個(gè)機(jī)會(huì),炬芯正在持續(xù)加大研發(fā)投入保持技術(shù)領(lǐng)先優(yōu)勢并與各大品牌廠商繼續(xù)保持緊密合作以把握這一波市場轉(zhuǎn)型機(jī)會(huì);此外,在智能手表市場,炬芯對(duì)中國、歐美和印度市場做了均衡的布局和節(jié)奏把握,智能手表作為貼合人體重要的健康數(shù)據(jù)監(jiān)測產(chǎn)品,將持續(xù)深耕。


用存內(nèi)計(jì)算創(chuàng)造更大算力和更低功耗


周正宇博士表示,過去以來,炬芯的芯片架構(gòu)一般都是“CPU+DSP”的雙核架構(gòu),未來,AI時(shí)代,炬芯會(huì)在CPU和DSP的基礎(chǔ)上,從高端音頻芯片入手,整合低功耗 AI 加速引擎,逐步全面升級(jí)為 CPU+DSP+NPU(based MMSCIM)三核異構(gòu)的AI SoC架構(gòu),為便攜式產(chǎn)品提供更大的算力。,最新一代基于MMSCIM的高端AI音頻芯片ATS286X,將會(huì)在明年將會(huì)Sample。


“算力和功耗是一對(duì)矛盾統(tǒng)一體?!敝苷畈┦空J(rèn)為,如何在同樣的制程、同樣的架構(gòu)、同樣的設(shè)計(jì)下,創(chuàng)造更大算力和更低功耗是AI時(shí)代的關(guān)鍵。


比如說,TWS耳機(jī)電池容量通常在35m~40mAh,典型平均工作電流約在5mA左右,也就是說,留給芯片的功耗預(yù)算只有20mA左右。再比如,智能手表典型電池容量在280~300mAh,典型工作電流在3mA上下,也就是說在4.3V鋰電池中,只有15mA左右的功耗,還包括ADC、DAC等器件,也就是說留給藍(lán)牙音頻芯片功耗只有10mW。


與之相悖的是,AI驅(qū)動(dòng)下,未來算力需求越來越大,也就是說,對(duì)藍(lán)牙音頻芯片商來說,要在10mW的功耗預(yù)算下,打造200~500GOPS算力是很大難題。


AI主要以復(fù)雜矩陣運(yùn)算來形成,而復(fù)雜的矩陣運(yùn)算最主要的算力功耗都來自于乘累加運(yùn)算,過去芯片普遍采用DSP處理音頻,突破的關(guān)鍵就在于突破馮諾范式的存儲(chǔ)墻和功耗墻,即存內(nèi)計(jì)算,通俗解釋就是把計(jì)算和存儲(chǔ)放在一個(gè)房間里去,讓它們零距離溝通。


存內(nèi)計(jì)算擁有許多不同介質(zhì),到底哪一種介質(zhì)適合做存內(nèi)計(jì)算?周正宇博士認(rèn)為各個(gè)介質(zhì)均有其特點(diǎn),不論哪種路徑,最主要的問題就是寫入次數(shù),假若AI需要做自適應(yīng)或模型不斷更新,那么它在寫入多次之后就會(huì)報(bào)廢,所以這種介質(zhì)不適合做自適應(yīng)應(yīng)用,類似于Transformer這一類擁有自學(xué)能力的模型。


對(duì)比來看,SRAM讀寫速度快,擁有無限次讀寫能力,不僅采用標(biāo)準(zhǔn)工藝制造,還可以集成在SoC內(nèi),但它的弱點(diǎn)是存儲(chǔ)密度低。不過,雖然如此,SRAM依舊是低功耗AI算力的首選。一方面,音頻只需要200~500GOPS的算力,而非幾十TOPS,密度低的缺陷因此而被規(guī)避,另一方面,標(biāo)準(zhǔn)的CMOS工藝不僅可以現(xiàn)在就能大規(guī)模量產(chǎn),還可以集成在單芯片上跟隨制程工藝演進(jìn)到2nm。加之無限次寫入,可以支持自適應(yīng)計(jì)算,長遠(yuǎn)來看,RL(強(qiáng)化學(xué)習(xí))和ML(機(jī)器學(xué)習(xí))可能也會(huì)為它帶來更多驚喜。


存內(nèi)計(jì)算也擁有模擬和數(shù)模混合兩個(gè)技術(shù)路徑,它們最大的差異主要在于運(yùn)算用ADC+模擬電路實(shí)現(xiàn)的,還是基于數(shù)字電路實(shí)現(xiàn)。


炬芯科技選擇的是模數(shù)混合的存內(nèi)計(jì)算,暫時(shí)命名為“Mixed-Mode SRAM based CIM”,簡稱MMSCIM,其優(yōu)勢是精度無限,可靠性和量產(chǎn)的一致性非常高,容易在制程上升級(jí),容易提升速度或PPA。


目前,該芯片雖然還沒有進(jìn)入量產(chǎn)階段,但進(jìn)展非常快。它在全矩陣運(yùn)算情況下,未來22nm就有望達(dá)到每瓦7.8TOPS的能效比。值得一提的是,在12nm情況下,它就已經(jīng)接近50TOPS,足以挑戰(zhàn)在10mW范圍內(nèi)釋放200~500GOPS算力。


炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵


邊緣與AI融合,挑戰(zhàn)與機(jī)遇并存


在周正宇博士看來,未來端側(cè)也會(huì)實(shí)現(xiàn)像ChatGPT、Tranformoer或類似的功能,或許是手機(jī),或者是手表,未來這些能力都能被人所觸及。就比如說,早年軟盤只有1.44MB的存儲(chǔ)空間,而現(xiàn)在TWS耳機(jī)中的存儲(chǔ)空間都超過了幾十兆。


端側(cè)是AI非常好的載體,以手表為例,它是唯一一個(gè)長時(shí)間佩戴且緊貼皮膚的裝置,因此,非常方便成為健康監(jiān)測裝置,隨著傳感器發(fā)展,心率、血壓信息都成為了可測量的數(shù)據(jù)。而最終,它會(huì)成為一個(gè)能夠隨時(shí)監(jiān)測健康狀態(tài)的能手。


把幾億人的信息全部送到云端處理顯然不現(xiàn)實(shí),而當(dāng)邊緣端擁有AI,把專業(yè)的醫(yī)學(xué)知識(shí)灌注給它,它就會(huì)像一個(gè)移動(dòng)醫(yī)生一樣,隨時(shí)判斷心率、血氧變化是否健康。這就是邊緣AI的重要意義,這樣的例子在邊緣AI中不勝枚舉。


炬芯科技周正宇博士:存內(nèi)計(jì)算是突破AI芯片算力和功耗矛盾的關(guān)鍵


當(dāng)然,挑戰(zhàn)與機(jī)遇并存。對(duì)國產(chǎn)來說,在端側(cè)做AI挑戰(zhàn)有兩方面,一方面如何以更好的能效比、PPA來實(shí)現(xiàn)人工智能,另一方面則是在于芯片制造,如何利用主流制程做到先進(jìn)制程的產(chǎn)品性能,這是國產(chǎn)芯片設(shè)計(jì)公司必須面對(duì)的挑戰(zhàn)。


自從ChatGPT問世,最大的變化是自學(xué)習(xí)和自適應(yīng),而在其中隱私是很大問題,未來端側(cè)也必然也要面對(duì)這樣的挑戰(zhàn)。


”我認(rèn)為現(xiàn)在AI最缺乏的是生態(tài)?!笔聦?shí)上,芯片行業(yè)大多情況都會(huì)把重點(diǎn)放在硬件設(shè)計(jì),但實(shí)際上,一個(gè)行業(yè)必須擁有自己的生態(tài),國內(nèi)更需要自己的生態(tài)。就比如說,TensorFlow與算力之前其實(shí)中間還間隔了很多層,或者說工具,如果能做好這一層,就能建設(shè)好更好的國產(chǎn)生態(tài)。炬芯也會(huì)持續(xù)深耕,為國產(chǎn)芯片與生態(tài)建設(shè)添磚加瓦。


免責(zé)聲明:本文為轉(zhuǎn)載文章,轉(zhuǎn)載此文目的在于傳遞更多信息,版權(quán)歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權(quán)問題,請(qǐng)聯(lián)系小編進(jìn)行處理。


推薦閱讀:

以工藝窗口建模探索路徑:使用虛擬制造評(píng)估先進(jìn)DRAM電容器圖形化的工藝窗口

如何設(shè)計(jì)電池充電速度快4倍的安全可穿戴設(shè)備

電池冷卻系統(tǒng)對(duì)電動(dòng)汽車如何重要?

如何為ADAS 域控制器構(gòu)建多攝像頭視覺感知系統(tǒng)?

漫談QLC其二:扛起NAND家族重任,老四QLC




特別推薦
技術(shù)文章更多>>
技術(shù)白皮書下載更多>>
熱門搜索
?

關(guān)閉

?

關(guān)閉