整個過年,DeepSeek給我用的都卡炸了。
我自己在官方app和網(wǎng)頁里,到現(xiàn)在也還是10條回復(fù)有8條是“服務(wù)器blabla,請稍后重試”。
每次見到這句話,我都想腦溢血。
坦率的講,你指望DeepSeek官方來給你提供一個非常良好的體驗服務(wù),我覺得有點(diǎn)不現(xiàn)實,人的目標(biāo)是AGI,不是云服務(wù)。所以寶貴的算力資源得用在探索模型上,而不是保障幾億用戶的推理需求。
再加上DeepSeek R1本身就是開源的,人人皆可部署,所以啊,官方R1很卡,那我們不如換個思路,直接用別人部署的R1的第三方服務(wù)不就行了。
反正模型都是一個模型,沒差。
這里可能有人會問,為啥不在我們自己電腦上部署一個,自己用多爽。
我想說,R1的模型參數(shù)是671B,差不多需要1300個G的顯存,你才能跑得動滿血版的R1,這是啥概念呢,我們普通人一般的顯卡在這個時代,4060這種級別的偏多,這種顯卡的顯存只有6G。。。
即使你上A100 80G,也要16張卡才能部署的下來。
現(xiàn)在很多人所謂的本地運(yùn)行R1教程,你可以理解為都是部署的7B的蒸餾版模型為主,那玩意說實話,如果跟滿血R1比,用四個字評價就是:又笨又慢。基本沒法用。
所以,用第三方服務(wù),幾乎成了最優(yōu)解。
現(xiàn)在國內(nèi)幾乎所有的云都支持了DeepSeek的API調(diào)用,比如百度云、騰訊云、華為云、阿里云等等,昨天下午,火山引擎也直接宣布加入戰(zhàn)斗。
但是,我覺得最好用、最適合小白的,還是硅基流動+Chatbox AI的組合。
真的,體驗無敵,還約等于不要錢。
硅基流動負(fù)責(zé)部署完DeepSeek R1然后提供一個API key,屬于后端。
Chatbox AI相當(dāng)于前端的對話產(chǎn)品,你把硅基流動的API key輸入進(jìn)去,就可以對話了,而且它是目前唯一支持自定義API Key且有Mac、Win、安卓、IOS四端產(chǎn)品的。無敵好吧。
真的,你需要準(zhǔn)備的只有一部手機(jī)或者一臺能跑掃雷的電腦、一個+86的手機(jī)號。就能得到一個再也不斷線的滿血DeepSeek。
話不多說,直接開始教程。
一共兩大步。
第一步,你需要搞到一個硅基流動的API key,第二步,下載Chatbox AI然后粘貼進(jìn)去。完事。
是不是很簡單。
一. 搞定硅基流動的APIKey
首先,注冊and登陸硅基流動官網(wǎng)。
這里注意一下,硅基流動正在搞活動,你可以直接用我的邀請鏈接注冊,這樣咱倆都可以白嫖14塊錢的額度,幾乎夠你高頻使用2周到1個月了(不是廣告):
https://cloud.siliconflow.cn/i/dcAIgVea
登陸之后,直接就進(jìn)入【模型廣場】了。排在第一位的模型就是R1。
但是你不用管,直接看最左邊的導(dǎo)航欄,找到【API密鑰】,點(diǎn)進(jìn)去,再點(diǎn)右上角的新建API密鑰。
密鑰描述這塊可以隨便寫,你可以建多個密鑰,別忘了這個密鑰是干啥的就行。
新建完成之后,你就會得到一個看著是加密的API Key了,這就是你的密鑰,點(diǎn)擊密碼那塊就能復(fù)制。
至此,你的API key就到手了,可以開始進(jìn)行下一步了。
這里我也提醒一下,這個API key絕對不要給別人,絕對絕對絕對不要。要不然你會發(fā)現(xiàn)你賬戶里的錢怎么一會直接干光了。。。
二. 下載Chatbox AI
一個我自己非常喜歡、很棒的AI神器。
網(wǎng)址在此:https://chatboxai.app/zh#download
你可以直接下載你需要的客戶端,比如我自己手機(jī)和兩臺電腦就全裝了。蘋果用戶直接去AppStore下載就好,其他的記得來官網(wǎng)下載。
這里我用mac客戶端舉例(手機(jī)上的都是一樣的,操作沒區(qū)別)。
打開以后,你就能看到一個非常熟悉的空白對話界面。
不用管,直接點(diǎn)擊左下角的設(shè)置按鈕。
在模型提供方里,找到這個SiliconFlow API,這個就是硅基流動的英文名。
在API密鑰里,輸入上一步咱們復(fù)制下來的API key,直接粘貼進(jìn)去,粘貼完以后,下面模型下拉框就會出現(xiàn)一堆數(shù)據(jù)了,全部都是硅基流動部署的模型,我們直接拉到后面選DeepSeek R1模型就行。
然后保存。
你沒看錯,這就算全部完事了。
我們就可以隨便問一句來測試一下,比如:
“用LOL祖安老哥的方式給我描述一下特朗普”
完美出現(xiàn),而且最難能可貴的是,ChatBox AI的界面,是帶有思考過程的。。。喜極而泣。
至此,你就擁有了一個你專屬的DeepSeek。
媽媽再也不用擔(dān)心我的DeepSeek斷線了。
三.寫在最后
DeepSeek實在太火了。
火到這兩天流量甚至把硅基流動都有點(diǎn)沖爆了,偶爾也會出現(xiàn)卡頓的情況。不過總體我體驗下來,還是能比官網(wǎng)那個卡頓好接受的多。
感謝硅基流動和華為,在春節(jié)期間不眠不休的加班加點(diǎn)。
未來我相信,也許還能有更多云廠商和算力租賃加入戰(zhàn)場,讓這些開源模型,跑得更穩(wěn)、更快。
好啦,教程也說完了,剩下的就交給你去沖浪了。
上班的第一天。
記得用AI摸魚哦。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.