智東西
作者 陳駿達
編輯 云鵬
Meta和OpenAI全面開戰了!
智東西4月30日報道,今天,在首屆LlamaCon開發者大會上,Meta正式發布了對標ChatGPT的智能助手Meta AI App,并宣布面向開發者提供官方Llama API服務的預覽版本。
Meta AI App是一款智能助手,基于Llama模型打造,可通過社交媒體賬號了解用戶偏好、記住上下文。與ChatGPT一樣,Meta AI App支持語音和文本交互,并額外支持了全雙工語音交互(Full-duplex,允許在接收語音的同時并行處理和響應,支持邊聽邊說、實時打斷等功能)。
Meta AI App可作為Meta RayBan AI眼鏡的配套應用程序,用戶能通過該眼鏡直接與Meta AI App對話。
同場發布的Llama API提供了包括Llama 4在內的多款模型,這一API與OpenAI SDK兼容,使用OpenAI API服務的產品可無縫切換至Llama API。
同時,Meta在新API中提供了用于微調和評估的工具,開發者可以打造符合自身需求的定制化模型,還可使用由AI芯片創企Cerebras和Groq提供的快速推理服務。
值得一提的是,過去數年中,Llama相關發布僅作為Meta Connect開發者大會上的一個環節,此次專門辦會足見他們對AI業務的重視。Meta CEO扎克伯格并未出現在發布會現場,會后其將參與2場對談。
關于價格,開發者可通過申請獲取Llama API免費預覽版的使用權限。未來,這一API或將采取收費模式,具體價格表尚未發布。Meta AI App及Web版本均已上線,免費可用。
Meta AI Web端:https://www.meta.ai/
Llama API文檔:https://llama.developer.meta.com/docs/overview
一、Llama模型下載量已超12億,Meta AI App主打語音交互
Meta首席產品官Chris Cox在LlamaCon大會上分享了Meta開源AI的最新進展。Cox稱,2年前,Meta內部對開源的商業化前景和優先級問題都持有懷疑態度,但如今開源AI已成為行業大勢所趨。
2個半月前,Meta宣布Llama及其衍生模型已經實現了10億的下載量,今天,這一數字已迅速增長至12億。
在開源平臺Hugging Face上,Llama的大部分下載量均來自衍生模型,有數千名開發者參與貢獻,數萬個衍生模型被下載,每月被使用數十萬次。
目前,Llama模型已被運用至Meta旗下的諸多App,包括WhatsApp、Instagram等等。在這些場景中,Llama模型經過了定制處理,以滿足特定用例需求,例如對話性、簡潔性(尤其是移動場景)和幽默感。
為提供更豐富的AI體驗,Llama推出了獨立智能助手App——Meta AI。
Meta AI App十分重視語音交互體驗,可提供低延遲、富有表現力的語音。Meta AI還可連接用戶的Facebook和Instagram賬戶,根據用戶互動歷史大致了解其興趣,并記憶用戶的相關信息。
這一App內置全雙工語音實驗模式。相關模型使用人與人之間的自然對話數據進行訓練,能提供更為自然的音頻輸出。全雙工意味著通道是雙向開放的,用戶可以聽到自然的打斷、笑聲等,就像真正的電話對話一樣。
全雙工語音實驗模式還處于早期階段,沒有工具使用、網絡搜索等能力,無法了解新近發生的時事。
Meta AI App中融入了社交元素,用戶可在發現頁面分享提示詞、生成結果等。這一App能與Meta Ray Ban智能眼鏡配合使用。用戶將能在眼鏡上開始對話,然后從應用程序或網絡的“歷史記錄”選項卡中訪問它,以從上次中斷的地方繼續。
二、一行代碼就能調用,可在線完成模型微調
會上,Meta負責Llama業務的副總裁Manohar Paluri與Llama研究團隊成員Angela Fan共同發布了由Meta托管的Llama API服務。
Llama API提供簡單的一鍵式API密鑰創建,一行代碼就能調用。支持輕量級的Python和Typescript SDK開發者以及OpenAI SDK。
在API服務網頁中,Meta提供了交互式游樂場。開發者可在其中嘗試不同的模型,更改模型設置,比如系統指令或溫度,以測試不同的配置。
▲Llama API界面
此外,開發者還可以使用多項預覽功能,包括基于JSON的結構化響應、工具調用等。
Paluri認為,定制化才是開源模型真正應該領先的地方。Llama API提供了便捷的微調服務,目前支持對Llama 3.3 8B進行自定義。
開發者可在微調標簽頁上傳用于微調的數據,或是使用Meta提供的合成數據工具包生成后訓練數據。
▲Llama API模型微調界面
數據上傳完成后,開發者可將數據的一部分切分出來,用于評估定制模型的表現。在Llama API平臺上,可隨時查看訓練進展情況,微調完成后的模型可供下載,開發者可在任何場景中運行這一模型。
大會上,Meta宣布了與Cerebras和Groq的合作。這兩家企業可提供Llama 4 API服務所需的算力支持,其算力能實現更快的推理速度。
結語:Llama探索商業化新道路
自2023年Llama 1發布以來,Llama系列模型已歷經四個主要版本,開源了數十款不同參數規模、不同架構的模型。不過,動輒數千億乃至萬億參數量的模型,意味著巨大的投入——外媒爆料稱,過去一年內,Meta已經主動與微軟、亞馬遜等公司接洽,希望建立合作關系,共同分擔開發成本。
本次,Llama API與Meta AI App的發布,標志著Meta開始積極探索Llama系列開源模型商業化的新道路。雖然目前的相關服務均處于免費狀態,但未來,Meta有望以開源模型為入口,引導企業和用戶使用關聯的云服務,或是利用App實現商業化變現。在講完技術普惠和創新的故事之后,商業化或許是所有開源模型廠商們都需要共同面對的問題。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.