小模型當道,Meta上周公開了參數不到10億的推理模型MobileLLM-R1系列,都可在本地端裝置執行。
MobileLLM-R1是機上(on-device)型模型家族MobileLLM最新系列,為具有推理能力的文字模型。新模型包含基礎模型(Base)及最終模型兩類,各有三種參數量規模,分別是1.4億、3.6億及9.5億。基礎模型的脈絡長度為4K,最終模型脈絡長度為32K。

Comments

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

Sign In

Register

Reset Password

Please enter your username or email address, you will receive a link to create a new password via email.