本文作者:李丹
來源:硬AI
Meta今年的壓軸人工智能(AI)大模型來了。
美東時間12月6日周五,Meta宣布推出一款新的Llama系列生成式AI模型:70億參數的Llama 3.3、又稱Llama 3.3 70B。CEO扎克伯格在旗下社交媒體Instagram稱,這是今年最后一次AI大模型更新,下一步就是明年Llama 4亮相。
Meta 生成式 AI 副總裁 Ahmad Al-Dahle在社交媒體X發帖表示,純文本的 Llama 3.3能實現和Meta最大Llama 模型——4050億參數的 Llama 3.1同樣的性能,成本還比Llama 3.1更低。“通過利用包括在線偏好優化在內的最新后訓練后技術進展,該模型顯著降低成本且提高了核心性能,讓它更容易被整個開源社區所接受。”
Al-Dahle在發帖的同時附上了一張圖表,顯示包括針對大模型語言理解能力的測試MMLU在內, Llama 3.3在一系列行業基準測試中表現優于谷歌的Gemini 1.5 Pro、OpenAI 的 GPT-4o 和亞馬遜本周稍早發布的 Nova Pro。Meta發言人通過電郵表示,該模型應該在數學、常識、指令遵循和應用程序App使用等領域有所提升。
Llama 3.3目前已經可以在Llama官網和AI開發平臺Hugging Face等網上來源下載。評論稱,Meta試圖以可供大范圍商業應用的開源模型主導AI模型市場,新模型是Meta為此目標的最新努力。
今年7月下旬,Meta發布了迄今為止最大的Llama開源模型Llama 3.1,對標OpenAI和谷歌的大模型。這一4050億參數的模型使用1.6塊英偉達H100 GPU進行訓練,受益于新的訓練和開發技術,Meta稱,Llama 3.1 在一定程度上可以與OpenAI的GPT-4o和Anthropic的Claude 3.5 Sonnet競爭。
扎克伯格稱Llama 3.1為“藝術的起點”,表示該模型擁有大范圍新的能力,包括改善推理以幫助處理復雜的數學問題、或即時合成一整本書。
Meta限制了某些開發者使用 Llama 模型的方式,其規定,月度用戶超過 7 億的平臺必須申請特殊許可。但對很多人來說,Llama 模型是否嚴格意義上的“開源”并不重要。Meta 的數據顯示,Llama 的下載量已超過 6.5 億次。
Meta 在內部在也運用 Llama。扎克伯格稱,Meta的AI助手 Meta AI 完全由 Llama 模型提供支持,目前每月擁有將近6 億活躍用戶。他還稱,Meta AI 有望成為世界上使用率最高的AI助手。
不過,Llama的開源對Meta來說福禍相依。去年11月,在有報道稱Llama模型被海外用于開發軍用AI工具后,Meta當月回應稱,得到確認,將要向美國政府機構和國家安全領域私營企業承包商提供Llama。
Meta 還對其遵守歐盟《人工智能法案》的能力表示擔憂,稱該法律的實施對Meta開源發布戰略來說“太難以預測”。歐盟《通用數據保護條例》 (GDPR) 中有關AI訓練的規定也給Meta帶來問題。Meta 使用未選擇不接受的 Instagram 和 Facebook 用戶的公開數據來訓練AI模型,而在歐洲,這些數據受到GDPR的保護。