Replicate 與 Cloudflare 的合作背景
2025年12月1日,Replicate 正式成為 Cloudflare 的一部分。我們自 2019 年創立以來,便著手將學術界的研究模型推向開發者,讓這些模型能被創造性地應用於開發者不曾想到的產品中。
開始的旅程
在 OpenAI 發布 GPT-2 之後,我們預見 AI 世界將迎來巨大變革,然而當時需要專業知識才能運行這些模型。因此,我們決定打造工具來幫助開發者使用這些模型,類似於 Heroku 讓開發者無需管理網頁伺服器即可運行網站。
關鍵技術的發展
我們的首款工具是 Cog,一種機器學習模型的標準包裝格式,接著推出 Replicate 作為運行 Cog 模型的雲端 API 平台。我們抽象化了低階的機器學習過程及大規模推理所需的 GPU 集群管理。
與 Cloudflare 的結合
隨著 AI 工程的成熟,現代 AI 堆疊不僅僅包含模型推理,還包括微服務、內容傳遞、物件儲存、緩存、數據庫等。這就是我們選擇加入 Cloudflare 的原因。Replicate 提供模型運行的工具,而 Cloudflare 則擁有全面的網絡基礎設施,這樣的結合將使我們能夠構建完整的 AI 堆疊。
未來展望
在 Cloudflare 的支持下,我們將能實現許多構想,例如在邊緣運行快速模型、即時啟動 Workers 運行模型管道、使用 WebRTC 流式傳輸模型輸入和輸出等。我們為能夠構建這樣的 AI 基礎設施而感到驕傲。
Cloudflare 的網絡雲提供全面的企業網絡保護,幫助用戶高效地構建互聯網應用,抵禦 DDoS 攻擊,保護免受駭客侵擾,並支持零信任的實現。
若對 Cloudflare 的使命有興趣,或尋找新的職業方向,歡迎了解更多我們的職缺。