大模型太招人喜歡了。有工程師請(qǐng)chatgpt以科幻作家劉慈欣口吻寫一封情書，結(jié)果夫人收到后淚流滿面。幫影像科醫(yī)生撰寫專業(yè)年終總結(jié)、為創(chuàng)作者提供天津快板和rap說唱風(fēng)相結(jié)合的詩詞，這些對(duì)大模型而言都不在話下。

(資料圖片)

ai算力需求改變了全球半導(dǎo)體產(chǎn)業(yè)格局。2020年7月9日，或是半導(dǎo)體行業(yè)極具里程碑意義的一天——這天，以ai算力為強(qiáng)項(xiàng)的英偉達(dá)，其市值首次超過半導(dǎo)體行業(yè)霸主英特爾。如今，英偉達(dá)市值更已躍上萬億美元臺(tái)階。如此一騎絕塵的表現(xiàn)，足以載入華爾街史冊(cè)。

業(yè)內(nèi)預(yù)測(cè)數(shù)據(jù)顯示，到2030年，全球半導(dǎo)體行業(yè)接近萬億美元規(guī)模的市場(chǎng)中，ai高性能計(jì)算占比將達(dá)40%。這意味著，眼下狂熱大模型背后，有一個(gè)關(guān)乎“肌肉展示”的冷思考難以回避。業(yè)內(nèi)公認(rèn)的說法是，1萬張英偉達(dá)a100，是做好一個(gè)大模型的基本算力門檻。

基于此，國內(nèi)正酣的“百模大戰(zhàn)”，必須直面“燒不燒得起”的靈魂拷問，并帶出算力“普惠”話題。就在7月6日2023世界人工智能大會(huì)“從‘端’到‘云’，勇攀‘芯’高峰”芯片主題論壇上，ai產(chǎn)業(yè)界既感壓力也充滿了動(dòng)力——大模型帶出海量算力需求，也帶出了國產(chǎn)芯“創(chuàng)新架構(gòu)+開源生態(tài)”的逆襲新機(jī)會(huì)。

中科院院士、深圳大學(xué)校長(zhǎng)毛軍發(fā)作主旨演講，指出“芯片只是手段，微電子系統(tǒng)才是目的“。論壇由世界人工智能大會(huì)組委會(huì)辦公室主辦，上海市集成電路行業(yè)協(xié)會(huì)承辦。

算力普惠有點(diǎn)遠(yuǎn)？

在本屆世界人工智能大會(huì)上，30余款大模型競(jìng)相博眼球，包括華為盤古、阿里通義、訊飛星火、百度文心、復(fù)旦moss等通用大模型，商湯商量、云知聲山海等對(duì)話模型，騰訊x music等音樂模型及多個(gè)垂直行業(yè)專業(yè)模型。就在不久前，科技部新一代人工智能發(fā)展研究中心也發(fā)布了《中國人工智能大模型地圖研究報(bào)告》，指出我國已發(fā)布79個(gè)10億級(jí)以上參數(shù)規(guī)模的大模型，“百模大戰(zhàn)”近在眼前。

燧原科技創(chuàng)始人、董事長(zhǎng)兼ceo趙立東客觀分析了這些大模型未來指數(shù)級(jí)增長(zhǎng)的算力剛需——

在大模型的技術(shù)萌芽期，根據(jù)前人經(jīng)驗(yàn)，訓(xùn)練一個(gè)gpt3參數(shù)規(guī)模的大模型，需要用到1萬張英偉達(dá)v100，用時(shí)14.8天，訓(xùn)練成本極為高昂。今年下半年晚些時(shí)候，我國大模型有望進(jìn)入技術(shù)膨脹期和應(yīng)用萌芽期，開啟推理部署階段。以谷歌的經(jīng)驗(yàn)，用大模型來代替谷歌每秒32萬個(gè)查詢，需部署約410萬張英偉達(dá)a100，由此新增約360億美元的推理成本。此后，前進(jìn)到應(yīng)用加速膨脹期，大模型應(yīng)用真正賦能千行百業(yè)，所需算力又要來一波乘數(shù)效應(yīng)。比如微信月活數(shù)十億，有近千萬個(gè)小程序生態(tài)，其算力需求簡(jiǎn)直就是天文數(shù)字。

再狂熱的大模型訓(xùn)練和推理，終要回歸商業(yè)邏輯，實(shí)現(xiàn)經(jīng)濟(jì)效益是根本，而非“不計(jì)代價(jià)”。這就涉及算力能否如水電般普惠。所謂“普”，是指需要的時(shí)候能獲得；所謂“惠”，是指能負(fù)擔(dān)得起。但芯片主題論壇上，與會(huì)專家們都不得不承認(rèn)，目前我國距離算力普惠還有較長(zhǎng)的路要走。

趕超出現(xiàn)“窗口期”？

如何實(shí)現(xiàn)算力普惠？中國科學(xué)院院士毛軍發(fā)和趙立東的觀點(diǎn)都是——?jiǎng)?chuàng)新的架構(gòu)，加上開源的生態(tài)。

據(jù)記者了解，目前半導(dǎo)體市場(chǎng)的ai芯片，基本都是以英偉達(dá)推出的gpu和cuda為主流架構(gòu)，許多應(yīng)用也以這些主流架構(gòu)為基礎(chǔ)而開發(fā)。但從長(zhǎng)遠(yuǎn)計(jì)，國內(nèi)芯片產(chǎn)業(yè)界必須建立第二解決方案，為市場(chǎng)和客戶提供第二選擇。

事實(shí)上，算力如此“燒錢”甚至“求而不得”，這對(duì)于國產(chǎn)芯努力構(gòu)建自主創(chuàng)新架構(gòu)、滿足市場(chǎng)對(duì)性價(jià)比和能效比的多元需求，無疑是一個(gè)極佳的時(shí)間窗口。“大模型數(shù)量上的收斂，生態(tài)也得到濃縮和集約，這對(duì)于建立ai芯片新生態(tài)來講，是非常有利的機(jī)會(huì)。”燧原科技創(chuàng)始人兼coo張亞林說。

論壇上，對(duì)于走開源共享之路的呼吁也不時(shí)提出。專家認(rèn)為，出于商業(yè)考慮，一些廠商多不會(huì)選擇開源，這本無可厚非。但如果想要走出一條趕超之路，就不能自縛手腳、在技術(shù)上做自我設(shè)限。上海市集成電路行業(yè)協(xié)會(huì)會(huì)長(zhǎng)張素心在論壇上呼吁，孤木不成林，國產(chǎn)芯應(yīng)匯聚合力，擴(kuò)大開發(fā)者群體的加入，形成生態(tài)閉環(huán)，繼而加速產(chǎn)業(yè)發(fā)展乃至國際化之路。

國產(chǎn)芯能否多上場(chǎng)？

種種可喜現(xiàn)象表明，部分國產(chǎn)芯正加速勵(lì)志奮進(jìn)路。

比如燧原科技，專注人工智能云邊端算力技術(shù)產(chǎn)品，基于自研芯片架構(gòu)與編程框架，不依賴國外廠商或生態(tài)，自主打造云端訓(xùn)練和推理兩條產(chǎn)品線，擁有覆蓋芯片、板卡、系統(tǒng)、集群、計(jì)算平臺(tái)的完整解決方案。成立于首屆世界人工智能大會(huì)舉辦前夕的燧原科技還不滿6歲，但已步入從自主研發(fā)到大批量產(chǎn)、從商業(yè)應(yīng)用到優(yōu)化迭代的正向循環(huán)發(fā)展軌道。

其中燧原已在大型實(shí)驗(yàn)室落地的1280卡規(guī)模的全液冷ai訓(xùn)練集群，是為國內(nèi)大規(guī)模ai算力基礎(chǔ)設(shè)施量身定制的算力集群，減碳核心指標(biāo)pue（數(shù)據(jù)中心總能耗/it設(shè)備能耗）小于等于1.1。

記者發(fā)現(xiàn)，許多芯片廠商不愿亦步亦趨跟隨巨頭腳步，也渴盼著市場(chǎng)和政府部門的支持。芯片產(chǎn)業(yè)發(fā)展有節(jié)奏、有階段，政府或可探索予以分段支持，在預(yù)訓(xùn)練、精調(diào)、推理各個(gè)階段，逐步增大支持力度，更好地推進(jìn)ai芯片產(chǎn)業(yè)發(fā)展。

“上場(chǎng)多，比賽成績(jī)自然就上去了。誰也不可能直接從觀眾席一步登上領(lǐng)獎(jiǎng)臺(tái)。” 趙立東說：“芯片是‘用進(jìn)廢退’，越用才能越好用。在漸進(jìn)式過程中培育算力生態(tài)、迭代算力產(chǎn)品，這個(gè)過程是我們必須經(jīng)歷的。”

工業(yè)和信息化部中國電子技術(shù)標(biāo)準(zhǔn)化研究院與人民日?qǐng)?bào)社傳播內(nèi)容認(rèn)知全國重點(diǎn)實(shí)驗(yàn)室合作建立了包含人工智能芯片性能評(píng)測(cè)、場(chǎng)景評(píng)測(cè)與綜合評(píng)測(cè)的整體評(píng)估評(píng)測(cè)體系，為共同促進(jìn)我國人工智能芯片產(chǎn)業(yè)有質(zhì)有序發(fā)展，雙方聯(lián)合牽頭發(fā)起“智越計(jì)劃”。（供圖）

本文作者：李曄