avatar
文章
80
标签
87
分类
19
主页
时间线
标签
分类
宝库
  • 视频
  • 音乐
  • 游戏
Link
悩姜
搜索
主页
时间线
标签
分类
宝库
  • 视频
  • 音乐
  • 游戏
Link

LobeChat+AI网关+Ollama打造高可用大模型集群

发表于2025-05-15|更新于2025-05-15|AI
|阅读量:
文章作者: 糊涂-悩姜
文章链接: https://jwgod.com/posts/3855113649.html
版权声明: 本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自 悩姜！
LobeChatAI网关Ollama
cover of previous post
上一篇
K8s资源创建与部署+非量化版DeepSeek分布式部署方案实战
cover of next post
下一篇
大同4日游
avatar
糊涂-悩姜
别有世间曾未见，一行一步一花新。
文章
80
标签
87
分类
19
Follow Me
公告
天命无怨色，人生有素风。
目录
  1. 1. 1. LobeChat+AI 网关+Ollama 打造高可用大模型集群（一）
    1. 1.1. 什么是 Ollama ？
    2. 1.2. Ollama 部署 DeepSeek-R1 实战
      1. 1.2.1. 环境准备
      2. 1.2.2. 安装 Ollama
    3. 1.3. 部署与测试 DeepSeek-R1
      1. 1.3.1. 1.在容器内下载模型和拉起*
      2. 1.3.2. 2.将模型文件挂载进容器（推荐）
    4. 1.4. 模型为什么不思考？
    5. 1.5. API访问
    6. 1.6. 总结
    7. 1.7. 思考题
  2. 2. 2. LobeChat+AI 网关 +Ollama打造高可用大模型集群（二）
    1. 2.1. 部署架构图
    2. 2.2. 使用 Ollama 启动 DS 模型
    3. 2.3. 网关选型
      1. 2.3.1. AI 时代给网关带来的挑战
    4. 2.4. AI 网关 Higress
      1. 2.4.1. Higress 部署与测试
      2. 2.4.2. API Key 二次分租
      3. 2.4.3. Token 用量观测
    5. 2.5. 接入 LobeChat
    6. 2.6. 总结
    7. 2.7. 思考题
最新文章
AI-使用DeepSeek开发小红书爆款文案生成助手
AI-使用DeepSeek开发小红书爆款文案生成助手2025-06-11
AI-使用 DeepSeek 开发你的第一个 RAG
AI-使用 DeepSeek 开发你的第一个 RAG2025-06-10
AI-提示工程
AI-提示工程2025-06-06
AI-DS大模型应用与Agent开发入门
AI-DS大模型应用与Agent开发入门2025-06-04
AI-大模型理论问答
AI-大模型理论问答2025-06-04

格言🧬

65年很漫长吗? 只不过是一瞬吧，闭上眼不听不看不想，一切都消逝了✨
点击开启陌路之旅

猜你想看💡

  • 文章归档文章分类
  • 文章标签网站统计

推荐友链⌛

©2020 - 2025  By 糊涂-悩姜
框架 Hexo|主题 Butterfly

搜索
数据库加载中