日前，網(wǎng)易有道CEO周楓在第八屆瑞芯微開發(fā)者大會上發(fā)表主題演講時表示，端側模型應用前景廣闊，展望未來，隨著NPU、GPU技術進步，及模型架構優(yōu)化，今天的商業(yè)模型就是未來的端側模型。

當天，周楓在現(xiàn)場進行了以《AIGC在教育場景的應用新探索》為主題的演講，深入剖析了AI技術在教育領域的最新動態(tài)以及AI未來應用前景。周楓指出，模型分為三類，一個是100B以上參數(shù)的超大模型，一個是5-100B參數(shù)的模型，很多人稱為商業(yè)模型,還有小于5B的端側模型。超大模型非常好用，但是對于一般商業(yè)公司來說很難自己去訓練和部署。而5-100B參數(shù)的模型，很多行業(yè)的公司已經(jīng)有能力去訓練和運營這樣的模型。隨著成本降低，未來一兩年會有更多公司有能力訓練和部署自己的模型，所以被稱為商業(yè)模型。

他說，不同場景的應用適合不同規(guī)模的模型，5B以下的端側模型應用前景也非常廣泛。一是其可以在電池驅動的設備上去跑，在減小延遲、降低功耗方面有很大優(yōu)勢；二是現(xiàn)在這樣量級的模型也能有很強的聊天能力、情緒能力。今年IoT和AI PC都是很大的熱點，很多智能陪伴型的應用很適合這種小模型。

他介紹，目前有道也在通過云端和端側結合的方式，探索大模型在教育場景下的落地應用。通過云端結合可以做到低延遲，低成本，讓產(chǎn)品更加具有優(yōu)勢。在最新推出的有道AI學習機X20中，承擔AI家庭老師角色的“小P老師”就利用云端結合的方式，在家庭答疑的場景下為孩子提供全學段、全學科的答疑服務。

檢索增強生成(RAG)技術作為大模型興起后爆火的方向，廣受研發(fā)者們追捧。周楓指出，有道已把RAG技術應用到業(yè)務實踐的過程中，也已驗證其對垂直領域應用效果非常好。

以“小P老師”為例，其能夠做到全學科、全學段的強大答疑能力，中間一部分能力就是來自背后巨大的知識庫，幫助它來獲得更多高質量、更準確的解法和知識。周楓認為，未來RAG技術會更廣泛地應用在垂直領域中，把領域的專業(yè)知識有效灌輸?shù)酱竽Ｐ屠锩妫プ龀龈玫膽谩?/p>

據(jù)悉，網(wǎng)易有道已開源自研的RAG引擎QAnything，并在Github上受到眾多開發(fā)者關注。QAnything結合了用戶私有數(shù)據(jù)和大模型的優(yōu)勢：用戶的任何內容，比如各種格式的文檔、音頻、數(shù)據(jù)庫等，都可以在其支持下變成針對其內容進行回答的使用方式。以日常文件處理為例，其會理解用戶意圖、在全庫中尋找相關內容，理解、提取用戶關心的要點，幫助用戶1分鐘讀完萬字長文。目前QAnything已在有道翻譯、文檔問答、課程客服等多個場景應用，并與外部客戶展開商業(yè)合作。

2023年7月，網(wǎng)易有道推出國內首個教育大模型“子曰”，并率先推出六大應用。目前，有道也已將應用落地硬件及軟件產(chǎn)品中，包括全球首個虛擬人口語私教Hi Echo、首個搭載大模型功能的有道詞典筆X6 pro、搭載AI家庭老師“小P老師”應用的有道學習機X20。2023年11月，有道“子曰”教育大模型順利通過雙新評估，成為首批通過完整國家備案的教育大模型。