聯發科技運用 Meta Llama 2 大型語言模型 賦能終端裝置的生成式 AI 應用
2023 年 8 月 24 日 — IC 設計大廠聯發科技今日宣布，將運用 Meta 最新世代大型語言模型 Llama 2 以及聯發科技最先進的人工智慧處理單元（APU）和完整的 AI 開發平台（NeuroPilot），建立完整的終端運算生態系統，加速智慧手機、汽車、智慧家庭、物聯網等終端裝置上的 AI 應用開發，為終端裝置提供更安全、可靠和差異化的使用體驗。預計運用 Llama 2 模型開發的 AI 應用將在年底最新旗艦產品上亮相，為使用者帶來突破性的生成式 AI 應用體驗。
聯發科技無線通訊事業部總經理徐敬全表示：「生成式 AI 的浪潮是數位轉型的重要趨勢之一，我們的願景是為 Llama 2 的開發者和終端使用者提供工具，帶來更多令人振奮的 AI 創新機會和產品體驗。透過與 Meta 的夥伴關係，聯發科技可提供更強大的硬體和軟體整體解決方案，賦予終端裝置更勝以往的強大 AI 效能。」
目前大部分的生成式 AI 處理都是透過雲端運算進行，聯發科技將生成式 AI 直接部署在終端裝置，讓開發者及使用者能直接在裝置上使用 Llama 2 模型，藉此提升性能、加強隱私保護、提高安全性及可靠性、降低延遲，能離線運算，並擁有節省成本的多項優勢，讓每個人都能享受到生成式 AI 帶來的便利與創新。
要真正在裝置上釋放生成式 AI 的潛力，製造商需採用高運算、低功耗的 AI 處理器，以及更快、更可靠的連網性能，以增強整體運算能力。目前每一款由聯發科技系統單晶片驅動的 5G 智慧手機皆配有 APU，已有廣泛執行多項生成式 AI 功能的成功實例，例如- AI-NR 雜訊抑制、AI-SR 超高解析度、AI -MEMC 動態補償等。
聯發科技將於今年年底推出最新一代的旗艦晶片組，並採用針對 Llama 2 模型而優化的軟體堆疊架構（NeuroPilot），與搭配支援 Transformer 模型做骨幹網路加速的升級版 AI 處理單元，降低 DRAM 存取消耗及頻寬佔用，進一步強化大型語言模型和生成式 AI 的性能，以利開發者打造令人期待的全新 AI 應用，加速終端應用的落地擴展。
###
關於聯發科技
聯發科技股份有限公司（TWSE：2454）是一家全球無晶圓廠半導體公司，在智慧手持裝置、智慧家庭應用、無線連結技術及物聯網產品等市場位居領先地位，每年約有 20 億台內建聯發科技晶片的終端產品在全球上市。聯發科技力求技術創新，為智慧型手機、平板電腦、智慧電視與機上盒、穿戴式裝置與車用電子等產品，提供具備高效能、低功耗的行動運算技術與先進的多媒體功能。聯發科技致力讓科技產品更普及，因為我們相信科技能夠改善人類的生活、與世界連結，每個人都有潛力利用科技創造無限可能。更多訊息請參考官網：www.mediatek.tw