微軟mono（微軟模版）
快科技6月24日消息，微軟微軟微軟宣布推出全新的模版本地小型語(yǔ)言模型Mu，旨在通過(guò)自然語(yǔ)言處理技術(shù)，微軟微軟提升用戶在系統(tǒng)設(shè)置中的模版搜索體驗(yàn)微軟的目標(biāo)是在設(shè)置應(yīng)用中創(chuàng)建一個(gè)AI驅(qū)動(dòng)的代理，能夠理解用戶的微軟微軟自然語(yǔ)言查詢(xún)并將其集成到現(xiàn)有的搜索框中，以提供流暢的模版用戶體驗(yàn)。
Mu為新代理功能提供支持，微軟微軟該功能最近已在開(kāi)發(fā)頻道向Windows 預(yù)覽體驗(yàn)計(jì)劃成員開(kāi)放，模版僅限于使用Copilot +個(gè)人電腦的微軟微軟用戶使用。
據(jù)微軟介紹，模版Mu模型是微軟微軟一個(gè)3.3億參數(shù)的編碼器-解碼器語(yǔ)言模型，專(zhuān)為在神經(jīng)處理單元（NPU）上高效運(yùn)行而設(shè)計(jì)，模版能夠?qū)崿F(xiàn)每秒處理超過(guò)100個(gè)tokens與類(lèi)似大小的微軟微軟僅解碼器模型相比，Mu在首次token延遲上降低了約47%，模版解碼速度提高了4.7倍，微軟微軟此外，Mu通過(guò)在某些組件中使用權(quán)重共享來(lái)減少總參數(shù)數(shù)量，從而優(yōu)化性能。
盡管Mu的大小僅為Phi-3.5-mini的十分之一，但其性能幾乎相當(dāng)，尤其在處理多詞查詢(xún)時(shí)表現(xiàn)出色這一功能已向Windows Insider計(jì)劃的用戶開(kāi)放，用戶可以通過(guò)下載Windows 11 Build 26120.3964（KB5058496）或更高版本來(lái)體驗(yàn)這一新的AI驅(qū)動(dòng)的代理功能。
【本文結(jié)束】如需轉(zhuǎn)載請(qǐng)務(wù)必注明出處：快科技責(zé)任編輯：黑白