日本一区二区三区久久久,午夜视频免费在线,喑交小拗女一区二区三区,91麻豆免费,77777日本少妇久7黄绝片,日b免费视频,国产精品去看片

每日經(jīng)濟(jì)新聞
要聞

每經(jīng)網(wǎng)首頁 > 要聞 > 正文

直擊WAIC 2025 | 讓大模型算力像電力一樣隨處可得?后摩智能CEO吳強(qiáng):端邊大模型機(jī)會巨大

2025-07-27 14:59:56

7月26日,WAIC 2025在上海開幕,后摩智能展出了其M50系列產(chǎn)品,該芯片專為AI大模型推理設(shè)計,面向AI PC、智能終端等場景。后摩智能CEO吳強(qiáng)表示,未來大模型將向推理和端邊智能遷移,后摩智能通過存算一體技術(shù),推動AI大模型在端邊側(cè)實現(xiàn)離線可用、數(shù)據(jù)保密。吳強(qiáng)還透露,公司已啟動下一代DRAM-PIM技術(shù)研發(fā),旨在提升AI算力普及。

每經(jīng)記者|陳婷    每經(jīng)實習(xí)編輯|余婷婷    

7月26日,“2025世界人工智能大會暨人工智能全球治理高級別會議”(WAIC 2025)在上海開幕,國產(chǎn)算力的進(jìn)展是各方關(guān)注的核心議題之一。

在后摩智能展臺,《每日經(jīng)濟(jì)新聞》記者看到,后摩智能M50系列產(chǎn)品首次亮相,后摩智能M50芯片與力謀?BX50計算盒子、力擎LQ50 Duo M.2卡等旗下核心產(chǎn)品一同位于展臺的核心位置。

作為主打端邊大模型和存算一體的芯片企業(yè),后摩智能這次帶來的M50芯片專為大模型推理設(shè)計,主要面向AI PC(人工智能個人電腦)、智能終端等場景。

“未來大模型有兩個重要發(fā)展趨勢:一是大模型的重心逐漸從訓(xùn)練向推理遷移。二是從云端智能逐漸向邊端或者端邊智能遷移。”7月25日,后摩智能CEO(首席執(zhí)行官)吳強(qiáng)對包括《每日經(jīng)濟(jì)新聞》記者在內(nèi)的媒體表示。他認(rèn)為,未來的計算格局有可能是端(終端設(shè)備)、邊(邊緣計算)、云(云計算)的混合體,90%的數(shù)據(jù)處理可能會在端和邊。

WAIC 2025 后摩智能展臺  圖片來源:每經(jīng)記者 陳婷 攝

公開資料顯示,后摩智能創(chuàng)立于2020年,創(chuàng)立早期定位為基于存算一體技術(shù)的大算力AI(人工智能)芯片研發(fā)企業(yè)。創(chuàng)始人吳強(qiáng)擁有美國普林斯頓大學(xué)博士學(xué)位,曾任地平線CTO(首席技術(shù)官),早年曾任職于AMD、Facebook。

近年來,國內(nèi)涌現(xiàn)了不少“存算一體”企業(yè),作為該方向的早期探索者,后摩智能建立起護(hù)城河了嗎?又是什么促使其在兩年前轉(zhuǎn)向?qū)W⒍诉叴竽P虯I芯片?

“不應(yīng)該拼價格,拼的是性價比”

吳強(qiáng)將M50芯片視為后摩智能過去兩年交出的一份答卷。

據(jù)介紹,M50芯片實現(xiàn)了160TOPS INT8、100TFLOPS bFP16的物理算力,搭配最大48GB內(nèi)存與153.6 GB/s的超高帶寬,典型功耗僅10W,相當(dāng)于手機(jī)快充的功率,能讓PC、智能語音設(shè)備、機(jī)器人等智能移動終端高效運行1.5B到70B參數(shù)的本地大模型,實現(xiàn)了“高算力、低功耗、即插即用”。

除了M50芯片,后摩智能此次發(fā)布的產(chǎn)品矩陣形成了覆蓋端側(cè)到邊緣的多元算力方案。力擎LQ50 Duo M.2卡以口香糖大小的標(biāo)準(zhǔn)M.2規(guī)格,為AI PC、陪伴機(jī)器人等移動終端提供“即插即用”的端側(cè)AI能力。

在吳強(qiáng)看來,存算一體技術(shù)是后摩智能的立身之本。

根據(jù)光大證券的相關(guān)研報,存算一體技術(shù)是指將計算邏輯直接嵌入到存儲單元中,使數(shù)據(jù)在存儲器內(nèi)完成部分或全部計算任務(wù),從而減少數(shù)據(jù)在存儲器與處理器之間的傳輸。這種技術(shù)可以顯著降低數(shù)據(jù)傳輸延遲和功耗,提高系統(tǒng)的整體性能。

2023年初,吳強(qiáng)在接受采訪時曾表示,國產(chǎn)替代的企業(yè)可以對標(biāo)海外的某類產(chǎn)品,但絕不能用同樣的技術(shù)路徑進(jìn)行照搬,如英偉達(dá)、AMD等國際巨頭的研發(fā)、工程、供應(yīng)鏈能力遠(yuǎn)超過初創(chuàng)企業(yè),硬碰硬難以取得成功,創(chuàng)業(yè)公司需要另辟蹊徑,以一種差異化的技術(shù)路線來應(yīng)對和巨頭們之間的競爭。

據(jù)了解,當(dāng)前,后摩智能通過存算一體技術(shù)與大模型的深度融合,推動AI大模型在端邊側(cè)實現(xiàn)“離線可用、數(shù)據(jù)留痕不外露”。

作為存算一體方向的早期奔跑者,后摩智能已經(jīng)明確了當(dāng)下的發(fā)展路徑。

吳強(qiáng)稱,M50芯片的發(fā)布是后摩智能現(xiàn)階段邁出的重要的一步,后面會推出更多的芯片去解決端邊大模型的算力和功耗問題以及帶寬問題。

“長期來說,后摩希望定位在端邊AI計算?!眳菑?qiáng)表示,后摩智能希望做出能效比更好的端邊芯片,用更好的能效比,解決客戶的一些問題。

在他看來,M50的發(fā)布只是一個開始,“我們的目標(biāo)是讓大模型算力像電力一樣隨處可得、隨取隨用?!?/p>

有觀點認(rèn)為,2025年或是端側(cè)AI的爆發(fā)元年。在這一賽道,后摩智能的市場競爭力是什么?

“我的觀點是不應(yīng)該拼價格,我們拼的是性價比?!眳菑?qiáng)表示,功耗敏感、成本敏感,是端邊的特色。他提到,在端邊,只要對客戶創(chuàng)造價值,就有人愿意買單。

“端邊大模型蘊藏著很大的機(jī)會”

值得一提的是,2023年下半年,后摩智能的目標(biāo)市場發(fā)生過轉(zhuǎn)向。

2023年5月,后摩智能推出了國內(nèi)首款存算一體智駕芯片后摩鴻途H30,其AI物理算力、功耗等多項數(shù)據(jù)一度驚艷了市場,為快速發(fā)展的智能汽車產(chǎn)業(yè)帶來了全新的解決方案。

當(dāng)時,后摩智能選擇了切入智能駕駛領(lǐng)域。后摩智能方面在當(dāng)時表示,智能駕駛是一個具象化的場景,存算一體芯片從該場景切入也有一些鮮明的特點與優(yōu)勢。

后摩智能創(chuàng)始人兼CEO吳強(qiáng)博士   圖片來源:每經(jīng)記者 陳婷 攝

然而,吳強(qiáng)很快就發(fā)現(xiàn)了這一目標(biāo)市場存在的問題。

“2023年下半年,整個自動駕駛賽道非常卷,格局逐漸穩(wěn)定,給新入局的機(jī)會越來越少。”吳強(qiáng)表示,為了體現(xiàn)存算一體的優(yōu)勢,后摩智能的一代芯片算力做得很大,忽略了當(dāng)時市場的需求。

吳強(qiáng)解釋稱,算力大就意味著成本高,可2023年下半年都在講價格、講低成本。在此大背景下,(當(dāng)時推出的芯片)算力太超前、太冗余了。

后摩智能很快就看到了新的機(jī)會。

據(jù)悉,2023年,后摩智能就得出了一個結(jié)論,即“端邊的大模型蘊藏著很大的機(jī)會”。

“無論是商業(yè)還是個人,端邊的AI都有可能成為更懂你的AI。因為它本身是有很多天生的優(yōu)勢,盡管剛剛開始,大模型剛剛開始,端邊剛剛開始,但是它本身有更好的實時響應(yīng),更低的使用成本,更安全的數(shù)據(jù)隱私,以及更好的個人的用戶體驗。未來這會成為一個趨勢?!眳菑?qiáng)說。

得出這一結(jié)論之后,2024年初,后摩智能快速把第一代芯片調(diào)整了一版,推出了M30,針對大模型做了一些調(diào)整和優(yōu)化。

隨著M50系列產(chǎn)品的推出,后摩智能已經(jīng)確認(rèn)了新的目標(biāo)市場。據(jù)了解,本次推出的M50產(chǎn)品可廣泛應(yīng)用于消費終端、智能辦公、智能工業(yè)等多元領(lǐng)域,且均能在離線狀態(tài)下實現(xiàn)全流程本地處理,從源頭杜絕數(shù)據(jù)聯(lián)網(wǎng)傳輸風(fēng)險。

吳強(qiáng)還向記者披露了當(dāng)下后摩智能的意向客戶,包括聯(lián)想的下一代AI PC產(chǎn)品、訊飛聽見的下一代智能語音設(shè)備以及中國移動的全新一代的5G+AI邊緣計算設(shè)備等。

就日漸火熱的具身智能給芯片行業(yè)帶來的機(jī)會,吳強(qiáng)認(rèn)為,機(jī)器人包括具身智能機(jī)器人(特指陪伴機(jī)器人),更像是十年前的智能駕駛,是一個新興的垂直賽道,格局還未定,“大家還有機(jī)會”。

不過,他也提到,由于具身智能的發(fā)展還處于比較早期,“專門為它做一個芯片養(yǎng)活自己是不可能的,它還有很長的過程。但我看好它的未來”。

據(jù)了解,面向未來,后摩智能已啟動下一代DRAM-PIM技術(shù)研發(fā),通過將計算單元直接嵌入DRAM陣列,使計算與存儲的協(xié)同更加緊密高效。該技術(shù)將突破1TB/s片內(nèi)帶寬,能效較現(xiàn)有水平再提升三倍,推動百億參數(shù)大模型在終端設(shè)備實現(xiàn)普及,讓更強(qiáng)大的AI算力能夠融入PC、平板等日常設(shè)備。

如需轉(zhuǎn)載請與《每日經(jīng)濟(jì)新聞》報社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。

讀者熱線:4008890008

特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。

歡迎關(guān)注每日經(jīng)濟(jì)新聞APP

每經(jīng)經(jīng)濟(jì)新聞官方APP

2

0