avatar
文章
87
标签
88
分类
19
主页
时间线
标签
分类
宝库
  • 视频
  • 音乐
  • 游戏
  • 工具
Link
悩姜
搜索
主页
时间线
标签
分类
宝库
  • 视频
  • 音乐
  • 游戏
  • 工具
Link

LobeChat+AI网关+Ollama打造高可用大模型集群

发表于2025-05-15|更新于2025-05-15|AI
|阅读量:
文章作者: 糊涂-悩姜
文章链接: https://jwgod.com/posts/3855113649.html
版权声明: 本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自 悩姜！
LobeChatAI网关Ollama
cover of previous post
上一篇
K8s资源创建与部署+非量化版DeepSeek分布式部署方案实战
cover of next post
下一篇
大同4日游
avatar
糊涂-悩姜
别有世间曾未见，一行一步一花新。
文章
87
标签
88
分类
19
Follow Me
公告
天命无怨色，人生有素风。
目录
  1. 1. 1. LobeChat+AI 网关+Ollama 打造高可用大模型集群（一）
    1. 1.1. 什么是 Ollama ？
    2. 1.2. Ollama 部署 DeepSeek-R1 实战
      1. 1.2.1. 环境准备
      2. 1.2.2. 安装 Ollama
    3. 1.3. 部署与测试 DeepSeek-R1
      1. 1.3.1. 1.在容器内下载模型和拉起*
      2. 1.3.2. 2.将模型文件挂载进容器（推荐）
    4. 1.4. 模型为什么不思考？
    5. 1.5. API访问
    6. 1.6. 总结
    7. 1.7. 思考题
  2. 2. 2. LobeChat+AI 网关 +Ollama打造高可用大模型集群（二）
    1. 2.1. 部署架构图
    2. 2.2. 使用 Ollama 启动 DS 模型
    3. 2.3. 网关选型
      1. 2.3.1. AI 时代给网关带来的挑战
    4. 2.4. AI 网关 Higress
      1. 2.4.1. Higress 部署与测试
      2. 2.4.2. API Key 二次分租
      3. 2.4.3. Token 用量观测
    5. 2.5. 接入 LobeChat
    6. 2.6. 总结
    7. 2.7. 思考题
最新文章
Nexus3.X_私服迁移
Nexus3.X_私服迁移2026-01-28
西安4日游
西安4日游2026-01-27
websocket接口测试页面
websocket接口测试页面2025-12-29
AI-大模型应用开发平台+Dify
AI-大模型应用开发平台+Dify2025-07-23
赤峰-乌兰布统-达达线3日游
赤峰-乌兰布统-达达线3日游2025-07-23

格言🧬

65年很漫长吗? 只不过是一瞬吧，闭上眼不听不看不想，一切都消逝了✨
点击开启陌路之旅

猜你想看💡

  • 文章归档文章分类
  • 文章标签网站统计

推荐友链⌛

©2020 - 2026  By 糊涂-悩姜
框架 Hexo|主题 Butterfly

搜索
数据库加载中