HHPOKER是一款為德?lián)淙酆谜叽蛟斓脑诰€德?lián)淦脚_。我們應(yīng)用了先進(jìn)的技術(shù)和傳統(tǒng)德?lián)涞木?為您帶來蕞真實(shí)、驚心動魄的德州體驗(yàn)。無論您是初學(xué)者還是職業(yè)玩家,撲克王都能滿足您的需求,讓您隨時(shí)隨地都能...

AI初創(chuàng)公司面壁智能發(fā)布并開源了新一代端側(cè)模型小鋼炮4.0，可實(shí)現(xiàn)長文本推理速度5倍常規(guī)加速以及最高220倍加速，共有8B和0.5B兩個(gè)參數(shù)規(guī)模。

李大海表示，隨著大模型知識密度越來越高，端側(cè)模型將大有可為。（澎湃新聞記者 秦盛）

wpk德州官網(wǎng)

面壁智能CEO李大海表示：“沒有做過上下文稀疏化的模型內(nèi)存消耗過大，顯存不夠要用CPU的內(nèi)存，?Offloading（顯存優(yōu)化技術(shù)）會導(dǎo)致速度急速下降。我們拋磚引玉，做了兩個(gè)還不錯(cuò)的應(yīng)用，作為demo一并向大家開源?！?/p>

據(jù)介紹，8B模型為稀疏注意力模型，在多個(gè)基準(zhǔn)測試中，以22%的訓(xùn)練開銷，性能比肩Qwen-3-8B、超越Gemma-3-12B，同時(shí)，注意力機(jī)制上采用高效雙頻換擋，可根據(jù)文本長短切換稀疏與稠密。0.5B模型相較Qwen-3-0.6B、Llama 3.2, 僅2.7%的訓(xùn)練開銷，一半?yún)?shù)性能翻倍，并實(shí)現(xiàn)最快600Token/s的推理速度。