跳到主要內容

發表文章

目前顯示的是有「雲端服務」標籤的文章

CoreWeave:專為 AI 打造的 GPU 雲端領導者

CoreWeave 是一家於 2017 年成立於美國的雲端運算公司,專門為人工智慧開發人員提供 GPU 基礎設施 。該公司最初以 Atlantic Crypto 為名,從事加密貨幣挖礦業務,之後策略性地轉型為 AI Hyperscaler™ 。CoreWeave 受益於市場對人工智慧運算能力日益增長的需求,在 2024 年實現了顯著的收入增長 。該公司計畫於 2025 年進行 IPO,目標估值可觀 。 公司概覽與歷史 CoreWeave 最初於 2017 年由 Michael Intrator、Brian Venturo 和 Brannin McBee 創立,名為 Atlantic Crypto,最初專注於使用 GPU 進行 ETH 挖礦 。該公司在加密貨幣挖礦方面的經驗使其掌握了部署和管理能源密集型 GPU 集群的專業知識,這對其未來在人工智慧運算領域的發展至關重要 。在 2018 年加密貨幣市場低迷之後,公司於 2019 年轉型為雲端 GPU 基礎設施供應商,並更名為 CoreWeave 。 該公司在美國和歐洲的主要地區營運著不斷擴大的資料中心 。截至 2024 年 12 月,CoreWeave 在美國擁有 13 個資料中心,在英國擁有 2 個資料中心 ,到同年底,資料中心數量已擴增至 30 個 ,之後更報告擁有 32 個資料中心和超過 25 萬個 NVIDIA GPU 。2024 年,CoreWeave 在倫敦設立了歐洲總部,並宣布在英國進行重大投資 。 核心業務與價值主張 CoreWeave 的核心業務是提供專為 GPU 加速運算設計的雲端服務,特別針對人工智慧工作負載進行了優化 。其使命是透過簡化人工智慧基礎設施的複雜性,並為人工智慧模型訓練和推論提供尖端的效能和效率,從而推動人工智慧革命 。 CoreWeave 的價值主張包括: 專為人工智慧打造的雲端服務,這與為網路規模應用程式設計的傳統雲端不同 。 存取最新和最強大的 NVIDIA GPU,通常是首批提供新架構的雲端供應商之一 。 增強人工智慧工作負載的效能和可擴展性 。 相較於較大型、通用型的雲端設施,可能具有更低的成本 。 透過自動化和託管服務簡化複雜人工智慧基礎設施的管理 。 強大的技術合作夥伴關係,尤其與 NVIDIA 的合作 。 CoreWeave 的專業化使其能夠針對人工智慧的需求優化基礎...

Apple 研究突破: AI 在 iPhone 本機運作的可能性提高

手機直接安裝  AI 語言模型,Apple 將再創新高? 最近,Apple 的研究團隊在大型語言模型(LLMs)的直接部署上取得了重大進展。這不僅是技術的一大步,也可能徹底改變我們與手機的互動方式。想像一下有不用上網的 ChatGPT 在手機內的未來是怎麼樣子的? iPhone 的 AI 夢想,正在成真 一般來說 LLMs 一直被認為是資料和記憶體的使用大戶,需要強大的運算能力才能運行。這對於資源有限的手機來說似乎是天方夜譚。但現在,Apple研究人員找到了突破口,透過一種新型的快閃記憶體儲存技術,使得這一切在 iPhone 上成為了可能。 快閃記憶體裡的 AI Apple 的一份新 研究報告 指出,與傳統用於運行 LLMs 的 RAM 相比,手機中更常見的是快閃記憶體。他們的新方法有效地利用了快閃記憶體,大大提高了數據讀寫的效率。他們運用了兩種關鍵技術: Windowing :這種技術讓 AI 模型重新使用已處理過的數據,減少了對記憶體的依賴。 Row-Column Bundling :類似於一次閱讀更多的數據,這提高了從快閃記憶體讀取數據的速度。 這樣的組合使得 AI 模型可以在有限的記憶體中運行得更加高效率。 iPhone 體驗的變革 這意味著什麼?想象一下,未來的 Siri 不僅僅是一個語音助手,它可以進行深入的對話,即時翻譯語言,甚至在你的手機上創作詩歌或 coding。這些都不再是遙不可及的夢想,而是即將到來的現實。雖然 Google 已經揚言會將 Gemini model 放到 Google assistance 中,但目前兩家科技巨頭的實現方法似乎大不相同。 寫在後面:步入 AI - Powered 的新時代 Apple 的這一步代表著非雲端運行的 AI 的重大指標,目前主流 AI 服務,如 ChatGPT,仍依賴 HCP 雲端計算來提供結果。然而,Apple 的研究加強了 AI 微型化並在本機運作的可能性。若此技術實現,從筆記型電腦到手錶等設備都能載入不同程度的 AI,以提供協助。目前 Google Pixel 系列手機是個先鋒,未來 Apple 可能會讓其有爆發性的成長。 參考資料 Apple Develops Breakthrough Method for Running LLMs on iPhones - MacRumors Appl...

亞馬遜推出 Bedrock AI 雲端服務,與 ChatGPT 競爭

亞馬遜推出 Bedrock AI 服務 亞馬遜近日宣布推出名為 Bedrock 的雲端服務,開發者可以使用該服務為他們的軟體添加生成式人工智能系統。這些 AI 系統可以生成文字,類似OpenAI 所推出的熱門 ChatGPT 聊天機器人。 Bedrock 與 Google 和 Microsoft 競爭 此次宣布顯示,作為最大的雲基礎設施提供商,亞馬遜不打算將這個領域拱手讓給競爭對手如 Google 的 Bard 和 Microsoft 的 Bing。 獲得 Titan、AI21、Anthropic 和 Stability AI 模型的訪問 通過 Bedrock 服務,Amazon Web Services(AWS)將為客戶提供其自家的Titan 語言模型,以及來自 Google 支持的Anthropic的語言模型,此外還有Stability AI 繪圖 AI。 訓練AI模型的成本和努力 亞馬遜首席執行官 Andy Jassy 表示:“大多數公司都希望使用這些大型語言模型,但真正優秀的模型需要數十億美元來訓練,耗時多年,而大多數公司並不願意承擔這樣的負擔。” Bedrock 可以通過為公司提供可客製化的基礎模型來解決這個問題。 關於AI準確性和客製化的顧慮 亞馬遜致力於確保其 Titan 模型產生高品質的回覆,解決了AI“ 幻覺 ”的顧慮。客戶將能夠用自己的數據客製化 Titan 模型,但該數據不會用於訓練Titan 模型。 定價細節 亞馬遜尚未披露 Bedrock 服務的成本,因為目前該服務處於限時測試階段。客戶可以加入等待名單,與競爭對手為類似服務設定的起始價格為每1000個 token 幾美分。 也可以看看... ChatGPT 的幻覺:實用性的受限 Google Bard開放使用申請:美英首發,LaMDA的輕量(劣化?) Bard AI 技術可能整合到未來的 Google 產品中 參考資料 Amazon CEO Andy Jassy says ‘really good’ A.I. models take ‘billions of dollars’ to train Photo by Christian Wiediger on Unsplash

Nvidia 的財務長:AI 是提高效率的關鍵(繼續買阿~不要停)

MarketWatch 的 一篇報導 中說到,Nvidia 的財務長 Colette Kress 最近在摩根士丹利科技媒體和電信會議上發表演講,表示企業應該將更多的資金投入到像人工智慧(AI)等技術上,而不是縮緊預算。