企业级大模型部署

课程介绍

本套教程是真正的企业级大模型部署方案，涉及的工具或平台皆为主流应用，采用原始直观的方式，带你一步步搭建企业级大模型应用环境，在Docker中部署Dify，访问AutoDL服务器的Ollama、Xinference平台的大语言模型、嵌入模型和重排序模型。

教程内容涵盖：基于腾讯云和AutoDL服务器部署，汇集大模型最热门的Ollama和Xinference平台，整合了Qwen、Deepseek、GPT、Embedding和Rerank等业内主流的多个大模型；所有模型都通过部署在Docker中的Dify平台进行统一调用；讲解了3个实战级的大模型应用案例（聊天助手、旅游顾问、法律知识库），涉及当下大模型热门的Agent开发、企业级私有知识库相关的RAG开发等。