《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業界動態 > Meta發布Llama 4系列AI模型

Meta發布Llama 4系列AI模型

引入“混合專家架構”提升效率
2025-04-07
來源:IT之家
關鍵詞: META Llama4 AI模型

4 月 6 日消息,Meta 現已發布旗下最新 Llama 4 系列 AI 模型,包含 Llama 4 Scout、Llama 4 Maverick 和 Llama 4 Behemoth,Meta 透露相應模型都經過了“大量未標注的文本、圖像和視頻數據”的訓練,以使它們具備“廣泛的視覺理解能力”。

000.png

目前,Meta 已將系列模型中的 Scout 和 Maverick 上架到 Hugging Face(點此訪問),而 Behemoth 模型則還在訓練中。其中 Scout 可以在單個英偉達 H100 GPU 上運行,而 Maverick 則需要英偉達 H100 DGX AI 平臺或“同等性能的設備”。

Meta 表示,Llama 4 系列模型是該公司旗下首批采用混合專家(MoE)架構的模型,這種架構在訓練和回答用戶查詢時的效率更高,所謂“混合專家架構”基本上是將數據處理任務分解為子任務,然后將它們委派給更小的、專門的“專家”模型。

例如,Maverick 總共有 4000 億個參數,但在 128 個“專家”模型中只有 170 億個活躍參數(參數數量大致與模型的問題解決能力相對應)。Scout 有 170 億個活躍參數、16 個“專家”模型以及總計 1090 億個參數。

不過值得注意的是,Llama 4 系列中沒有一個模型是像 OpenAI 的 o1 和 o3-mini 那樣真正意義上的“推理模型”。作為比較,“推理模型”會對其答案進行事實核查,并且通常能更可靠地回答問題,但因此也比傳統的“非推理”模型花費更長的時間來給出答案。

Meta 內部測試顯示,Maverick 模型最適合用于“通用 AI 助手和聊天”等應用場景,該模型在創意寫作、代碼生成、翻譯、推理、長文本上下文總結和圖像基準測試中表現超過了 OpenAI 的 GPT-4o 和谷歌的 Gemini 2.0 等模型。然而 Maverick 與谷歌的 Gemini 2.5 Pro、Anthropic 的 Claude 3.7 Sonnet 和 OpenAI 的 GPT-4.5 等功能更強大的最新模型相比仍有一定進步空間。

而 Scout 的優勢則是總結文檔、基于大型代碼庫進行推理。該模型支持 1000 萬個詞元(“詞元”代表原始文本的片段,例如單詞“fantastic”可拆分為“fan”、“tas”和“tic”),因此一次可以處理“多達數百萬字的文本”。

Meta 還進一步預告了其 Behemoth 模型,據該公司稱,Behemoth 有 2880 億個活躍參數、16 個“專家”模型,總參數數量接近 2 萬億個。Meta 的內部基準測試顯示,在一些衡量解決數學問題等科學、技術、工程和數學(STEM)技能的評估中,Behemoth 的表現優于 GPT-4.5、Claude 3.7 Sonnet 和 Gemini 2.0 Pro,但不如 Gemini 2.5 Pro。


Magazine.Subscription.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 澳门永久av免费网站| 青草青在线视频| 女房东用丝袜脚夹我好爽漫画| 久久人妻少妇嫩草av蜜桃| 欧洲美熟女乱又伦av影片| 亚洲欧美日韩色| 狠狠人妻久久久久久综合蜜桃| 午夜精品久久久久久久| 被黑人猛躁10次高潮视频| 国产成人精品视频午夜| 全免费毛片在线播放| 国产高清av在线播放| 99视频精品在线| 女人高潮内射99精品| 两个漂亮女百合啪啪水声| 日本三级带日本三级带黄国产| 久久综合视频网| 最近韩国电影高清免费观看中文 | 成人网站在线进入爽爽爽| 久久亚洲色www成人欧美| 日韩精品一区二区亚洲av观看 | 青青热久久久久综合精品| 国产成人精品午夜福利在线播放 | 亚洲乱码中文字幕小综合| 欧美日韩中文字幕在线观看| 亚洲精品国产福利在线观看| 狠狠色综合7777久夜色撩人| 免费国产污网站在线观看| 精品无码一区二区三区亚洲桃色 | 成都4片p高清视频| 久久丝袜精品综合网站| 日本二区免费一片黄2019| 久久精品99无色码中文字幕| 日韩爱爱小视频| 久久精品国产网红主播| 日韩欧美aⅴ综合网站发布| 久热re这里只有精品视频| 曰批视频免费40分钟试看天天| 亚洲av永久中文无码精品综合| 欧美乱子伦xxxx| 亚洲伊人色欲综合网|