llm-universe实战免费30分钟跑通RAG知识库助手新手也能搭出自己的问答应用【免费下载链接】llm-universe本项目是一个面向小白开发者的大模型应用开发教程在线阅读地址https://datawhalechina.github.io/llm-universe/项目地址: https://gitcode.com/GitHub_Trending/ll/llm-universe团队知识库堆到200多份PDF后查一条规定平均要翻5分钟。这套开源教程 llm-universe 把这件事压缩成3条命令它把你的本地PDF和Markdown吃进向量库用自然语言作答还记得多轮上下文。读完本文你可以在没有GPU的电脑上跑出一个自己的RAG知识库问答应用。它到底是什么 llm-universe 是 Datawhale 开源的大模型应用开发实战教程项目只要求你会基础 Python。如果把大模型比作大脑它就是教你把这颗大脑接进自家文档的操作手册。主线一共5章调模型API、搭向量知识库、串检索问答链、部署 Streamlit 网页、评估与优化。全程基于对 ChatGPT、文心一言、讯飞星火、智谱GLM 四家 API 的统一封装——换模型只改一行实例化代码几小时学完即可复现一个带网页界面的知识库问答助手。能力清楚了下面走最短路径跑起来。跑完能装进工具箱的四项能力 ⚡一套代码调通四大LLM API各家厂商的调用规则各不相同记起来很繁琐。课程用 LangChain 把四家 API 统一封装你把密钥写进 .env再用 ChatOpenAI 这样的一行代码完成实例化即可。llm.invoke(请你自我介绍一下) 能流式吐回答案后说明链路已通把 temperature 设为 0每次输出基本一致。图一次调用后的模型回答结构完整、没有跑题把本地文档变成可检索的向量库课件和制度堆成几十份PDF普通搜索根本找不到想要的句子。课程用 UnstructuredLoader 读入文档再用 RecursiveCharacterTextSplitter 按 chunk_size、chunk_overlap 切成小块经 Embedding API 转成向量存进轻量级 Chroma完整步骤见 C3.ipynb。完成后任意问题调一次 similarity_search 就能取回最相关的3个块。图文本分块切分规则重叠块避免句子在块边界被截断三行代码串起检索问答链直接问大模型私有文档内容它会自信地编造。课程用 retriever | combiner | prompt | llm 的管道写法一行串起检索、拼上下文、生成三步并用 RunnableBranch 判断是否先按多轮上下文改写问题再检索。效果是回答只引用检索到的3个块查不到就直说不知道。一条命令开出网页问答界面命令行演示很难给同事看。课程自带 streamlit_app.py约130行代码含聊天框、流式输出和多轮记忆直接加载 data_base/vector_db/chroma/ 里持久化的 Chroma 库。运行一条 streamlit 命令浏览器里就是一个能秒级应答的问答页无需部署服务器。最短路径跑通5条命令从0到网页 本地路线最短且完全不需要 GPU。克隆仓库、装上 requirements.txt 里锁好版本的依赖LangChain 固定 0.3.0、把模型 API 密钥放进 .env就能启动应用不想装本地环境的读者也可以用 GitHub Codespaces 在浏览器里打开代码运行。git clone https://gitcode.com/GitHub_Trending/ll/llm-universe conda create -n llm_universe python3.10 -y conda activate llm_universe cd llm-universe pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple echo OPENAI_API_KEY你的密钥 .env # 其余厂商密钥同理 streamlit run notebook/C4 构建 RAG 应用/streamlit_app.py运行成功后你应该看到浏览器打开标题为动手学大模型应用开发的页面在底部输入框敲南瓜书是什么答案会以流式方式逐字出现之后你还能继续追问。页面跑起来后看看它背后到底发生了什么。讲透一个关键机制RAG 如何找到答案 你输入南瓜书是什么后系统依次做三件事。输入问题先经 Embedding API 变成查询向量Chroma 库用余弦相似度把它和库里每个块的向量逐一比较取出最相关的3个块。处理这3个块用换行拼成 context 塞进 Prompt 模板若存在多轮对话RunnableBranch 会先让模型结合聊天记录把它是什么这类指代改写成完整问题再去检索。输出LLM 被系统提示约束只依据 context 作答不知道就说不知道——整条链路十几秒内跑完且每个字都有出处。图完整 RAG 链路左半部分把本地文档索引进向量库右半部分从问题到答案共15步机制懂了看一轮完整对话长什么样。完整案例个人知识库助手的一轮问答 假设你已把 Datawhale 的开源课程资料灌进知识库打开上一步的页面界面即下图以下对话可复现你joyrl是什么系统检索到 joyrl 课程 README 的3个块joyrl 是 Datawhale 的开源强化学习教程项目从环境配置到训练流程给出完整路径面向零基础读者。你joyrl-book和它是什么关系系统先按上下文改写问题再检索joyrl-book 是配套课件仓库内容与 joyrl 代码仓库的章节一一对应。你那南瓜书呢系统检索 pumpkin_book.pdf 摘要块它是 Datawhale 的机器学习公式教程第一部分覆盖机器学习常用公式。图个人知识库助手页面左侧为聊天区右侧可选知识库目录收好下面几条再关页面。避坑 下一步 LangChain 按课程锁定0.3.0别照搬1.x文档语法密钥只放.env不要硬编码进代码改了分块参数必须重建向量库否则检索用旧块换模型厂商前先确认其Embedding有无自定义封装评估召回率低时先调k值课程默认取3回到终端执行streamlit run notebook/C4 构建 RAG 应用/streamlit_app.py在聊天框输入南瓜书是什么验证你的第一条检索链是否跑通。【免费下载链接】llm-universe本项目是一个面向小白开发者的大模型应用开发教程在线阅读地址https://datawhalechina.github.io/llm-universe/项目地址: https://gitcode.com/GitHub_Trending/ll/llm-universe创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
llm-universe实战：免费30分钟跑通RAG知识库助手，新手也能搭出自己的问答应用
llm-universe实战免费30分钟跑通RAG知识库助手新手也能搭出自己的问答应用【免费下载链接】llm-universe本项目是一个面向小白开发者的大模型应用开发教程在线阅读地址https://datawhalechina.github.io/llm-universe/项目地址: https://gitcode.com/GitHub_Trending/ll/llm-universe团队知识库堆到200多份PDF后查一条规定平均要翻5分钟。这套开源教程 llm-universe 把这件事压缩成3条命令它把你的本地PDF和Markdown吃进向量库用自然语言作答还记得多轮上下文。读完本文你可以在没有GPU的电脑上跑出一个自己的RAG知识库问答应用。它到底是什么 llm-universe 是 Datawhale 开源的大模型应用开发实战教程项目只要求你会基础 Python。如果把大模型比作大脑它就是教你把这颗大脑接进自家文档的操作手册。主线一共5章调模型API、搭向量知识库、串检索问答链、部署 Streamlit 网页、评估与优化。全程基于对 ChatGPT、文心一言、讯飞星火、智谱GLM 四家 API 的统一封装——换模型只改一行实例化代码几小时学完即可复现一个带网页界面的知识库问答助手。能力清楚了下面走最短路径跑起来。跑完能装进工具箱的四项能力 ⚡一套代码调通四大LLM API各家厂商的调用规则各不相同记起来很繁琐。课程用 LangChain 把四家 API 统一封装你把密钥写进 .env再用 ChatOpenAI 这样的一行代码完成实例化即可。llm.invoke(请你自我介绍一下) 能流式吐回答案后说明链路已通把 temperature 设为 0每次输出基本一致。图一次调用后的模型回答结构完整、没有跑题把本地文档变成可检索的向量库课件和制度堆成几十份PDF普通搜索根本找不到想要的句子。课程用 UnstructuredLoader 读入文档再用 RecursiveCharacterTextSplitter 按 chunk_size、chunk_overlap 切成小块经 Embedding API 转成向量存进轻量级 Chroma完整步骤见 C3.ipynb。完成后任意问题调一次 similarity_search 就能取回最相关的3个块。图文本分块切分规则重叠块避免句子在块边界被截断三行代码串起检索问答链直接问大模型私有文档内容它会自信地编造。课程用 retriever | combiner | prompt | llm 的管道写法一行串起检索、拼上下文、生成三步并用 RunnableBranch 判断是否先按多轮上下文改写问题再检索。效果是回答只引用检索到的3个块查不到就直说不知道。一条命令开出网页问答界面命令行演示很难给同事看。课程自带 streamlit_app.py约130行代码含聊天框、流式输出和多轮记忆直接加载 data_base/vector_db/chroma/ 里持久化的 Chroma 库。运行一条 streamlit 命令浏览器里就是一个能秒级应答的问答页无需部署服务器。最短路径跑通5条命令从0到网页 本地路线最短且完全不需要 GPU。克隆仓库、装上 requirements.txt 里锁好版本的依赖LangChain 固定 0.3.0、把模型 API 密钥放进 .env就能启动应用不想装本地环境的读者也可以用 GitHub Codespaces 在浏览器里打开代码运行。git clone https://gitcode.com/GitHub_Trending/ll/llm-universe conda create -n llm_universe python3.10 -y conda activate llm_universe cd llm-universe pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple echo OPENAI_API_KEY你的密钥 .env # 其余厂商密钥同理 streamlit run notebook/C4 构建 RAG 应用/streamlit_app.py运行成功后你应该看到浏览器打开标题为动手学大模型应用开发的页面在底部输入框敲南瓜书是什么答案会以流式方式逐字出现之后你还能继续追问。页面跑起来后看看它背后到底发生了什么。讲透一个关键机制RAG 如何找到答案 你输入南瓜书是什么后系统依次做三件事。输入问题先经 Embedding API 变成查询向量Chroma 库用余弦相似度把它和库里每个块的向量逐一比较取出最相关的3个块。处理这3个块用换行拼成 context 塞进 Prompt 模板若存在多轮对话RunnableBranch 会先让模型结合聊天记录把它是什么这类指代改写成完整问题再去检索。输出LLM 被系统提示约束只依据 context 作答不知道就说不知道——整条链路十几秒内跑完且每个字都有出处。图完整 RAG 链路左半部分把本地文档索引进向量库右半部分从问题到答案共15步机制懂了看一轮完整对话长什么样。完整案例个人知识库助手的一轮问答 假设你已把 Datawhale 的开源课程资料灌进知识库打开上一步的页面界面即下图以下对话可复现你joyrl是什么系统检索到 joyrl 课程 README 的3个块joyrl 是 Datawhale 的开源强化学习教程项目从环境配置到训练流程给出完整路径面向零基础读者。你joyrl-book和它是什么关系系统先按上下文改写问题再检索joyrl-book 是配套课件仓库内容与 joyrl 代码仓库的章节一一对应。你那南瓜书呢系统检索 pumpkin_book.pdf 摘要块它是 Datawhale 的机器学习公式教程第一部分覆盖机器学习常用公式。图个人知识库助手页面左侧为聊天区右侧可选知识库目录收好下面几条再关页面。避坑 下一步 LangChain 按课程锁定0.3.0别照搬1.x文档语法密钥只放.env不要硬编码进代码改了分块参数必须重建向量库否则检索用旧块换模型厂商前先确认其Embedding有无自定义封装评估召回率低时先调k值课程默认取3回到终端执行streamlit run notebook/C4 构建 RAG 应用/streamlit_app.py在聊天框输入南瓜书是什么验证你的第一条检索链是否跑通。【免费下载链接】llm-universe本项目是一个面向小白开发者的大模型应用开发教程在线阅读地址https://datawhalechina.github.io/llm-universe/项目地址: https://gitcode.com/GitHub_Trending/ll/llm-universe创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
