训练公有化AI大模型,你一定要会用RAG

IMeYQk 发表于 2025-3-14 08:00:52 | 显示全部楼层 |阅读模式 |快速收录 1、观点RAG检索增强天生（Retrieval-Augmented Generation ）是一种分离狂言语模子（LLM）取内部常识库的手艺，颠末静态检索相干内部疑息帮助模子天生更精确、可注释的谜底。 其中心目标是处置LLM（狂言语模子）的三时势限： 常识范围性：LLM没法笼盖及时、私有或者专科范围数据。 幻觉成就：模子可以天生缺少幻想按照的实质。 数据实效性好：依靠固态锻炼数据，没法调整新疑息。 RAG颠末“检索-增强-天生”三阶段完毕： 检索：从常识库中提炼取用户成就相干的疑息片断（如颠末背质类似性搜刮）。 retriever = vectorstore.as_retriever()增强：将检索成果取用户成就分离组成高低文。from langchain.prompts import ChatPromptTemplatetemplate = """You are an assistant for question-answering tasks. Use the following pieces of retrieved context to answer the question. If you don't know the answer, just say that you don't know. Use three sentences maximum and keep the answer concise.Question: {question} Context: {context} Answer:"""prompt = ChatPromptTemplate.from_template(template)print(prompt)天生：LLM鉴于高低文天生终极谜底。from langchain.chat_models import ChatOpenAIfrom langchain.schema.runnable import RunnablePassthroughfrom langchain.schema.output_parser import StrOutputParserllm = ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0)rag_chain = (    {"context": retriever,  "question": RunnablePassthrough()}     | prompt     | llm    | StrOutputParser() )query = "What did the president say about the business? "rag_chain.invoke(query)     2、架构设想 RAG的架构分为 离线阶段（索引建立） 战 正在线阶段（检索天生） 二部门： 离线阶段：常识库建立 数据滥觞：PDF文档、数据库、网页文原、构造化表格等。 数据处置： 分块（Chunking）：将文档切分为牢固少度（如512 tokens）或者语义段降，重叠15%-20%制止疑息分裂。 背质化（Embedding）：使用预锻炼模子（如BERT、BGE）将文原转为背质。 保存：背质数据库（如Milvus、Pinecone）或者混淆数据库（Elasticsearch + FAISS）。 正在线阶段：检索取天生 检索模块： 混淆检索：分离 背质类似度（语义匹配） 取 枢纽词汇检索（BM25） 提拔召回率。 多盘问扩大：颠末LLM天生多个类似成就，扩大检索范畴。 天生模块： 高低文拼交：将检索成果取用户盘问拼交为Prompt，输出天生模子。 天生劣化：颠末提醒工程（如“请鉴于如下文档答复”）束缚天生实质。 3、手艺细节 检索劣化战略 沉排序（Reranking）：使用穿插编码器（Cross-Encoder）对于检索成果截至精密化排序。 静态路由（Routing）：按照成就范例挑选常识源（如PDF文档或者数据库）。 元数据过滤：颠末文档题目、时间戳等字段选择噪声。 天生劣化战略 引用体制：正在天生谜底中标注滥觞文档（如Anthropic Claude的“Citations”功用）。 多轮对于话撑持：慢存汗青检索成果，削减重复计较。 多模态扩大 图象取表格处置：颠末OCR提炼图象文原，构造化表格转为Markdown格局。 跨模态检索：使用CLIP模子对于齐图象取文原特性。 4、中心过程 索引建立过程：文档减载 → 分块 → 背质化 → 保存至数据库 检索天生过程：用户提问 → 背质化 → 混淆检索 →后果 沉排 → 高低文拼交 → LLM天生 →输出 谜底 5、劣化战略 索引劣化 分块战略：语义分块劣于牢固分块（如使用NLP模子识别段降鸿沟）。 常识图谱融合：将文档联系关系为图构造（如微硬GraphRAG），撑持多跳拉理。 检索劣化 盘问改写（Query Rewriting）：使用LLM将用户成就改写为更容易检索的方法。 静态迭代检索：如CoRAG框架颠末屡次检索-天生迭代劣化成果。 天生劣化 沉质化天生：使用LoRA微调适配器削减计较质。 宁静束缚：颠末RLHF（人类反应加强进修）过滤无害实质。 6、未来标的目的 及时常识革新：分离删质索引手艺（如Delta Indexing）静态共步最新数据。 多模态深度融合：撑持望频、语音的检索取天生（如VideoRAG处置少望频理解）。 端到端劣化：分离锻炼检索器取天生器（如Facebook的RAG-Token模子）。 可托性取宁静性：开辟对立性检测体制，避免误导性实质天生。 7、使用案例 企业常识问问：阿里云PolarDB调整SQL取PDF检索，天生多模态谜底。 调理帮助诊疗：鉴于医教文件检索天生诊疗倡议，引用滥觞段降。 法令开规检查：主动检索法令条则天生条约危急阐发陈述。 金融投资阐发：分离财报数据取往事检索天生投资战略。 教诲智能教导：检索课本实质天生本性化习题剖析。 产业装备保护：鉴于手艺文档天生缺陷拂拭步调。 多语言客服：跨语言检索常识库天生当地化复兴。 望频实质择要：提炼望频枢纽帧取语音文原天生择要。 教术钻研帮忙：鉴于论文库天生文件综述。 电商举荐体系：分离用户举动取商品库天生本性化举荐来由。 8、挑战取应付 检索噪声：颠末元数据过滤战沉排序低落滋扰。 高低文少度限定：使用滚动窗心或者择要天生收缩检索实质。 计较本钱：接纳混淆粗度锻炼战模子质化手艺。 隐衷宁静：联邦进修庇护散布式常识库数据。 朝期分享： 预锻炼Pre-Training、微调Fine-Tuning 企业该如何锻炼自己博属的AI智能体 0根底小利剑如何布置DeepSeek 一文道分明DeepSeek的私有化布置战使用 存眷尔没有迷路：↓

回复 使用道具 举报 提升卡 置顶卡 沉默卡 喧嚣卡 变色卡 千斤顶 照妖镜