文章
80
标签
87
分类
19
主页
时间线
标签
分类
宝库
视频
音乐
游戏
Link
悩姜
搜索
主页
时间线
标签
分类
宝库
视频
音乐
游戏
Link
K8s资源创建与部署+非量化版DeepSeek分布式部署方案实战
发表于
2025-05-15
|
更新于
2025-05-15
|
AI
|
阅读量:
您好, 这里需要密码.
文章作者:
糊涂-悩姜
文章链接:
https://jwgod.com/posts/3108275412.html
版权声明:
本博客所有文章除特别声明外，均采用
CC BY-NC-SA 4.0
许可协议。转载请注明来自
悩姜
！
DeepSeek
K8s
上一篇
AI-机器学习与深度学习理论基础
下一篇
LobeChat+AI网关+Ollama打造高可用大模型集群
相关推荐
2025-06-10
AI-使用 DeepSeek 开发你的第一个 RAG
2025-06-11
AI-使用DeepSeek开发小红书爆款文案生成助手
2025-06-04
AI-DS大模型应用与Agent开发入门
糊涂-悩姜
别有世间曾未见，一行一步一花新。
文章
80
标签
87
分类
19
Follow Me
公告
天命无怨色，人生有素风。
目录
1.
Kubernetes资源创建与部署（一）
1.1.
新手如何快速理解什么是 K8s？
1.2.
快速搞定 K8s 安装
1.2.1.
环境准备
1.2.2.
创建 K8s 集群
1.3.
将容器部署到 K8s，并进行服务暴露
1.3.1.
服务暴露
1.4.
总结
1.5.
思考题
2.
非量化版DeepSeek分布式部署方案实战（二）
2.1.
什么是 vLLM
2.2.
使用 vLLM 部署 DeepSeek
2.2.1.
环境准备
2.2.2.
安装 vLLM
2.2.3.
使用 vLLM
2.2.3.1.
离线推理
2.2.3.2.
在线推理
2.3.
分布式推理
2.4.
总结
2.5.
思考题
3.
非量化版 DeepSeek 分布式部署方案实战（三）
3.1.
什么是Ray
3.2.
部署过程
3.2.1.
环境与模型准备
3.2.2.
Ray 集群部署
3.2.3.
在 Ray 中 部署 Vllm
3.3.
使用对话前端连接模型
3.4.
总结
3.5.
思考题
最新文章
AI-使用DeepSeek开发小红书爆款文案生成助手
2025-06-11
AI-使用 DeepSeek 开发你的第一个 RAG
2025-06-10
AI-提示工程
2025-06-06
AI-DS大模型应用与Agent开发入门
2025-06-04
AI-大模型理论问答
2025-06-04
0
%
搜索
数据库加载中
