小圖:DeepSeek+Dify
摘要:輕松運用開源 LLM 應用開發平臺
作者:一站式模型服務的
生成式 AI 原生應用的開發與部署成為眾多企業和開發者探索的方向。復雜的技術流程和高昂的開發門檻卻常常令人望而卻步。青云科技旗下 AI 算力云——基石智算 CorsHub 憑借高度標準化的平臺與應用集成,讓用戶能夠快速獲得所需模型與應用,構建便捷、靈活的開發環境。
本文將以智算平臺上大模型服務中的 DeepSeek-R1 為例,向用戶介紹如何在 Dify 中調用相應模型,部署自己的 AI 應用。
步驟一 獲取 API 密鑰和域名
1. 注冊并登錄基石智算。
2. 在頂部導航欄,選擇產品與服務 > 大模型服務 > 大模型服務平臺。
3. 進入大模型服務管理頁面,在左側導航欄中選擇 API 密鑰管理,創建并獲取 API 密鑰。
說明:
若平臺內無可用的 API 密鑰,用戶可參考創建和獲取新的 API 密鑰。
若平臺內已有可用的 API 密鑰,用戶可直接將鼠標懸停在指定密鑰上,點擊 API 密鑰右側的復制按鈕,即可獲取完整的 API 密鑰。
4. 用戶可在左側導航欄選擇在線推理服務,點擊目標模型卡片頁中的 API 文檔,查看預置模型 API 服務接口路徑,即為模型的 API 域名。
說明:當前平臺上的預置模型的 API 域名為,用戶可直接 使用無需修改。

步驟二 配置和使用 Dify
1. 訪問 Dify 官網,點擊開始使用。
2. 進入 Dify 賬號登錄頁面,用戶根據實際情況選擇合適的登錄方式,登錄即可。
3. 登錄成功后,點擊右上角賬戶名稱,選擇設置。

4. 在設置頁面,選擇模型供應商,在添加更多模型提供商模塊,找到 OpenAI-API-compatible,并點擊添加模型。

5. 在彈出的添加 OpenAI-API-compatible 窗口中,配置各項參數,點擊保存。

a. 模型類型:此處勾選 LLM 即可。
b. 模型名稱:用戶在智算平臺的在線推理服務頁面,復制得到模型名稱,本實踐中此處填寫 DeepSeek-R1。
c.API Key:用戶在 API 密鑰管理中復制得到完整 API 密鑰,需根據實際情況進行修改。
d.API endpoint URL:智算平臺上的預置模型的 API 的 endpoint URL ,用戶可直接使用無需修改。
e. 其他參數,用戶可根據實際情況修改或保持默認。
6. 待頁面提示修改成功后,返回 Dify 工作室,點擊創建空白應用。
7. 在創建空白應用頁面,選擇聊天助手,輸入應用名稱&圖標,點擊創建。

8. 在調試與預覽窗口上面,將所使用的模型切換為自行配置的 DeepSeek-R1,用戶即可進行自有聊天助手的調試。
說明:
用戶也可點擊多個模型進行調試,選擇平臺內的其他模型同時對比調試。






京公網安備 11011402013531號