早前 Apple 宣布終止開發電動車(相關報道),負責開發電動車的團隊被轉移至人工智能部門,協助開發生成式人工智能項目。Apple 行政總裁 Tim Cook 亦在股東大會表示今年將會加強 AI 方面的投入。今日在一篇論文《MM1: Methods, Analysis & Insights from Multimodal LLM Pre-training》中,Apple 正式宣布自家研發了一個具有高達 300 億參數的多模態 LLM 「MM1」。
▲圖片來源:arxiv
論文中表示開發期間使用 3 種不同類型的預訓練資料:圖像字幕、交錯圖像文本和純文字資料,最終開發了參數最高可達 300 億的多模態模型 MM1。據報 Apple 正在開發名為「Ajax」的大型語言模型框架及「AppleGPT」人工智能聊天機械人,將會應用於 Siri 及其他 Apple 應用程式上,例如用家可以與 AI 對話,以生成個人音樂播放列表。
資料來源:VentureBeat