免費體驗 Cloudflare 智慧服務
目錄
🌟 1. 介紹 Cloudflare 的兩個服務
-
1.1 Cloudflare 的工作人工智慧(Worker AI)
-
1.1.1 服務概述
-
1.1.2 使用方法
-
1.1.3 優點與缺點
-
1.2 Cloudflare 的閘道人工智慧(Gateway AI)
-
1.2.1 服務概述
-
1.2.2 使用方法
-
1.2.3 優點與缺點
🌟 2. Cloudflare 工作人工智慧(Worker AI)的詳細介紹
-
2.1 了解 Cloudflare 工作人工智慧
-
2.1.1 文本嵌入
-
2.1.2 文本分類
-
2.1.3 文本翻譯
-
2.2 如何使用 Cloudflare 工作人工智慧
-
2.2.1 生成 API 令牌
-
2.2.2 更新 API 令牌
-
2.2.3 使用 API 令牌
-
2.3 Cloudflare 工作人工智慧的效能及可視性
-
2.3.1 請求速率
-
2.3.2 可視化日誌
🌟 3. Cloudflare 閘道人工智慧(Gateway AI)的詳細介紹
-
3.1 了解 Cloudflare 閘道人工智慧
-
3.1.1 即時日誌
-
3.1.2 快取功能
-
3.1.3 速率限制
-
3.2 如何配置 Cloudflare 閘道人工智慧
-
3.2.1 創建閘道
-
3.2.2 設置參數
-
3.2.3 調整設定
-
3.3 Cloudflare 閘道人工智慧的可擴展性與成本
-
3.3.1 閘道效能
-
3.3.2 成本分析
🌟 4. 常見問題與解答
-
4.1 Cloudflare 服務是否免費?
-
4.2 如何設置 API 令牌?
-
4.3 Cloudflare 的工作人工智慧與閘道人工智慧有何區別?
-
4.4 如何優化 Cloudflare 人工智慧服務的效能?
Cloudflare 的兩個服務:工作人工智慧與閘道人工智慧
在這段視頻中,我們將探討 Cloudflare 提供的兩項服務:工作人工智慧(Worker AI)和閘道人工智慧(Gateway AI)。簡而言之,這些服務實際上為您提供訪問大型語言模型的方式。我們將討論這些服務的運作原理。如果您只想直接跳轉到演示,我已經提供了時間戳,請隨意跳到最後。在上一個視頻中,我們討論了在本地運行大型語言模型的問題。當我說本地運行時,顯然你們都知道這個定義。這有其優點和缺點,這意味著,是的,你是安全的,你在你的雲提供商那裡運行事物,你也可以訪問未經審查的模型,但也有一些缺點,比如你知道運行這些模型不僅需要你水平擴展你的服務器,這是顯然的,如果你有來自用戶的重負荷,但你也需要垂直擴展機器,這就是你知道的,你需要決定你想走的方向。如果你不太擔心,你的數據已經在互聯網上,你的數據大部分時間都是你已經提供給一些管理服務,比如如果你使用 AWS,你使用他們的 RTS 服務,或者你使用 MongoDB Atlas 雲環境,我的意思是雲分鐘服務,那麼你已經向這些公司提供了你的數據,我們相信你知道,他們不分享這樣的事情,但在這個視頻中,我們將只討論他們推出的兩個與人工智慧相關的產品,一個是工作人工智慧,另一個是閘道人工智慧。在工作人工智慧中,他們實際上託管了大型語言模型,如 llama 2,他們在不同類別中擁有模型,例如一些是在文本嵌入與文本分類、文本翻譯等方面,還有另一種模型,不是模型,