Apple 研究突破: AI 在 iPhone 本機運作的可能性提高

手機直接安裝 AI 語言模型，Apple 將再創新高?

最近，Apple 的研究團隊在大型語言模型（LLMs）的直接部署上取得了重大進展。這不僅是技術的一大步，也可能徹底改變我們與手機的互動方式。想像一下有不用上網的 ChatGPT 在手機內的未來是怎麼樣子的？

iPhone 的 AI 夢想，正在成真

一般來說 LLMs 一直被認為是資料和記憶體的使用大戶，需要強大的運算能力才能運行。這對於資源有限的手機來說似乎是天方夜譚。但現在，Apple研究人員找到了突破口，透過一種新型的快閃記憶體儲存技術，使得這一切在 iPhone 上成為了可能。

快閃記憶體裡的 AI

Apple 的一份新研究報告指出，與傳統用於運行 LLMs 的 RAM 相比，手機中更常見的是快閃記憶體。他們的新方法有效地利用了快閃記憶體，大大提高了數據讀寫的效率。他們運用了兩種關鍵技術：

Windowing：這種技術讓 AI 模型重新使用已處理過的數據，減少了對記憶體的依賴。
Row-Column Bundling：類似於一次閱讀更多的數據，這提高了從快閃記憶體讀取數據的速度。

這樣的組合使得 AI 模型可以在有限的記憶體中運行得更加高效率。

iPhone 體驗的變革

這意味著什麼？想象一下，未來的 Siri 不僅僅是一個語音助手，它可以進行深入的對話，即時翻譯語言，甚至在你的手機上創作詩歌或 coding。這些都不再是遙不可及的夢想，而是即將到來的現實。雖然 Google 已經揚言會將 Gemini model 放到 Google assistance 中，但目前兩家科技巨頭的實現方法似乎大不相同。

寫在後面：步入 AI - Powered 的新時代

Apple 的這一步代表著非雲端運行的 AI 的重大指標，目前主流 AI 服務，如 ChatGPT，仍依賴 HCP 雲端計算來提供結果。然而，Apple 的研究加強了 AI 微型化並在本機運作的可能性。若此技術實現，從筆記型電腦到手錶等設備都能載入不同程度的 AI，以提供協助。目前 Google Pixel 系列手機是個先鋒，未來 Apple 可能會讓其有爆發性的成長。

The Key | 每天的關鍵

搜尋此網誌