“護(hù)盤(pán)”是百融云的可選項(xiàng)，但大模型是AI的必答題

原創(chuàng) 贊收藏 評(píng)論

舉報(bào) 2024-01-11

掃描,分享朋友圈

配圖來(lái)自Canva可畫(huà)

同樣的內(nèi)外部氛圍、同樣的經(jīng)濟(jì)動(dòng)能尚處蓄力期、相似的國(guó)資背景股東開(kāi)始建倉(cāng)二級(jí)市場(chǎng)，熬過(guò)了冬季，1999年的夏天見(jiàn)到過(guò)5.19行情；不知道2024年會(huì)不會(huì)也有相似的結(jié)果。

作為以融資為第一功能的市場(chǎng)，AH股最大的使命就是由國(guó)資帶頭，支持實(shí)體經(jīng)濟(jì)發(fā)展。

如果一個(gè)公司把上半年掙的2個(gè)億利潤(rùn)幾乎全拿來(lái)回購(gòu)，會(huì)是什么目的？“沒(méi)人買(mǎi)自己，那就自己回購(gòu)自己”。此時(shí)的你，跟上市公司的利益站在了一起；

如果一個(gè)行業(yè)內(nèi)的龍頭股紛紛迎來(lái)了社保、險(xiǎn)資、養(yǎng)老金持股不到5%但躋身前十大，背后有什么意義？此時(shí)的你，已經(jīng)跟國(guó)資們站在了一起。

只要是進(jìn)入二級(jí)市場(chǎng)的資金，都不會(huì)跟潛在“風(fēng)報(bào)比”過(guò)不去。沒(méi)錯(cuò)，是有一部分國(guó)資像財(cái)經(jīng)媒體說(shuō)的那樣很青睞高股息板塊，但2023年的中報(bào)，以社保為代表的資金就已經(jīng)從一部分漲幅4倍以上的AIGC品種里套現(xiàn)離場(chǎng)、又在三季報(bào)重新回流AI低位的分支，包括但不限于服務(wù)器、工業(yè)軟件、交換機(jī)、游戲。

“國(guó)資在這個(gè)位置，只護(hù)盤(pán)不做多，目的就是為了讓社保、險(xiǎn)資買(mǎi)夠籌碼”。不管這個(gè)觀(guān)點(diǎn)是否偏激，也不管?chē)?guó)資增減持以及選擇的標(biāo)的是否有依據(jù)和信息不對(duì)稱(chēng)，對(duì)于在A(yíng)股和H股混跡多年的韭菜們來(lái)說(shuō)，唯一的盈利模式就是跟有定價(jià)權(quán)的資金站在一起、低買(mǎi)之后高賣(mài)。

“我們只想和國(guó)資站在一起，最好不要有別人”。A股的AI公司能做到機(jī)構(gòu)持股中只有國(guó)資的，已經(jīng)不多了，這也是為什么A股的AI板塊只有年底公募自救行情和密集上影線(xiàn)。那有沒(méi)有可能，存在一些被少數(shù)短線(xiàn)機(jī)構(gòu)減持、國(guó)資背景股東仍然重倉(cāng)的AI公司？

雖然不多，但不是沒(méi)有，港股的@百融云-W（6608.HK）就是一個(gè)代表，F(xiàn)10當(dāng)中的機(jī)構(gòu)持股名單可以自行查看，百度百科上也有這些持倉(cāng)機(jī)構(gòu)的控股股東背景。

這家公司的商業(yè)模式很簡(jiǎn)單，一共兩個(gè)交付方式，MaaS（模型即服務(wù)）和BaaS（業(yè)務(wù)即服務(wù)），前者讓B端客戶(hù)調(diào)用AI模型，后者用AI技術(shù)幫企業(yè)完成KPI。但對(duì)于企業(yè)客戶(hù)來(lái)說(shuō)，有一個(gè)在業(yè)內(nèi)很棘手、但在二級(jí)市場(chǎng)沒(méi)人提的問(wèn)題：就是在部署大模型算力時(shí)，很多企業(yè)拿到服務(wù)器后還有很多工作要做，可能需要長(zhǎng)達(dá)30天甚至更久才能把環(huán)境、框架、模型搭建起來(lái)，后邊還需要Finetune完成私有化。

那這會(huì)導(dǎo)致什么后果？就是AI模型開(kāi)發(fā)的技術(shù)門(mén)檻和團(tuán)隊(duì)成本高，而且當(dāng)企業(yè)客戶(hù)好不容易部署好了AI模型之后，同行競(jìng)品就已經(jīng)完成產(chǎn)品迭代了。

所以這時(shí)候需要一個(gè)技術(shù)，也是百融云在A(yíng)I大模型研發(fā)當(dāng)中的重點(diǎn)之一：MoE（混合專(zhuān)家模型）。這是什么意思？簡(jiǎn)單說(shuō)，其實(shí)就是努力實(shí)現(xiàn)：在有限的計(jì)算資源預(yù)算下，用更少的訓(xùn)練步數(shù)訓(xùn)練一個(gè)更大的模型，因?yàn)檫@往往比用更多的步數(shù)訓(xùn)練一個(gè)較小的模型效果更好。

而MoE的一個(gè)顯著優(yōu)勢(shì)是能在遠(yuǎn)少于稠密模型所需的計(jì)算資源下進(jìn)行有效的預(yù)訓(xùn)練。這代表著在相同的計(jì)算預(yù)算條件下，可以顯著擴(kuò)大模型或數(shù)據(jù)集的規(guī)模。特別是在預(yù)訓(xùn)練階段，與稠密模型相比，MoE通常能夠更快地達(dá)到相同的質(zhì)量水平。

如果查原版科學(xué)文獻(xiàn)的話(huà)，會(huì)看到很多諸如“稀疏性”、“專(zhuān)家容量”、“令牌負(fù)載均衡”這種看似專(zhuān)業(yè)卻很抽象，實(shí)際上唯獨(dú)不告訴你這東西能給客戶(hù)帶來(lái)什么效果的詞匯。用普通話(huà)翻譯，客戶(hù)通過(guò)MoE實(shí)現(xiàn)用更少訓(xùn)練步數(shù)訓(xùn)練更大的私有化AI模型，這樣算力成本和本地化就都解決了，就這么回事。

MoE只能以Transformer為基礎(chǔ)，與AI大模型天然適配。MoE具體又是由兩個(gè)部分組成的：

（1）稀疏MoE層：這些層代替了傳統(tǒng)Transformer模型中的前饋網(wǎng)絡(luò)（FFN）層。MoE層包含若干“專(zhuān)家”，每個(gè)專(zhuān)家本身是一個(gè)獨(dú)立的神經(jīng)網(wǎng)絡(luò)。在實(shí)際應(yīng)用中，這些專(zhuān)家通常是前饋網(wǎng)絡(luò)（FFN），但它們也可以是更復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)，甚至可以是MoE層本身，從而形成層級(jí)式的MoE結(jié)構(gòu)。

也就是說(shuō)，百融云客戶(hù)在調(diào)用MaaS服務(wù)的時(shí)候，比如調(diào)用了10個(gè)模型（即服務(wù)），這10個(gè)都是獨(dú)立運(yùn)行的神經(jīng)網(wǎng)絡(luò)，客戶(hù)就可以在調(diào)用更多AI模型和服務(wù)的同時(shí)，體驗(yàn)更精確的獨(dú)立運(yùn)行模式。

（2）門(mén)控網(wǎng)絡(luò)或路由：這個(gè)部分用于決定哪些token被發(fā)送到哪個(gè)“專(zhuān)家”，比如B端客戶(hù)輸入的token為“More”或者“Parameters”，這兩個(gè)token就會(huì)被發(fā)往不同的專(zhuān)家。有時(shí)，一個(gè)token甚至可以被發(fā)送到多個(gè)專(zhuān)家。Token的路由方式是MoE使用中的一個(gè)關(guān)鍵點(diǎn)，因?yàn)槁酚善饔蓪W(xué)習(xí)的參數(shù)組成，并且與網(wǎng)絡(luò)的其他部分一同進(jìn)行預(yù)訓(xùn)練。

在BaaS的商業(yè)模式中，百融云的客戶(hù)就可以通過(guò)這個(gè)原理，按照自身KPI涉及到的不同關(guān)鍵詞，也就是token或者自然語(yǔ)言，找到百融云BaaS中涉及到最精準(zhǔn)的模型分層和“專(zhuān)家”。

百融云這些機(jī)構(gòu)客戶(hù)中，有一些是國(guó)資背景的，也就給百融云的商業(yè)模式和AI大模型能力做了背書(shū)。

同理思考，如果一些股東也有國(guó)資背景，是不是也可以給百融云的股價(jià)做背書(shū)？有沒(méi)有觀(guān)察到每次調(diào)整到12.5元附近，都有一股力量在把它的股價(jià)拉起來(lái)？而且，是在港股大盤(pán)這么拉跨的情況下。

本文系作者授權(quán)數(shù)英發(fā)表，內(nèi)容為作者獨(dú)立觀(guān)點(diǎn)，不代表數(shù)英立場(chǎng)。
轉(zhuǎn)載請(qǐng)?jiān)谖恼麻_(kāi)頭和結(jié)尾顯眼處標(biāo)注：作者、出處和鏈接。不按規(guī)范轉(zhuǎn)載侵權(quán)必究。