AI算法落地：大模型微调与RAG方案对比评测
提示词描述：
面向AI算法工程师与产品经理。针对大模型落地场景，对比全参数微调、LoRA微调与RAG检索增强生成的优劣势，提供高性价比的AI应用构建策略。
提示语关键词：
大模型微调,RAG检索增强,AI算法落地,大语言模型应用,LLM微调对比,AI提示词
提示词内容：
【需求分析】
分析{应用场景}的具体任务类型（如客服问答、内容生成、代码辅助）。评估{数据量级}的质量与规模。明确{实时性要求}及响应延迟容忍度。界定幻觉容忍度与知识更新的频率。
【方法对比】
1. 大模型微调(SFT/LoRA)：改变模型权重，学习特定风格与领域知识，推理速度快，但无法实时更新知识，易产生灾难性遗忘。
2. RAG(检索增强生成)：外挂知识库，实时检索最新文档，知识更新零成本，幻觉率低，但依赖检索准确率，推理延迟略高。
对比维度：知识时效性、开发成本、推理延迟、幻觉控制、算力消耗。
【推荐方案】
若场景为固定风格生成或特定格式输出，且知识库稳定，推荐LoRA微调。若场景为专业知识问答、政策解答或需频繁更新知识库，强烈推荐RAG方案。复杂场景可采用RAG+微调混合架构，用微调优化意图识别，用RAG提供事实依据。
【使用步骤】
1. 构建高质量指令微调数据集或清洗向量化知识库文档。
2. 若选微调：使用LLaMA-Factory等工具进行LoRA训练与评估。
3. 若选RAG：部署Milvus/Elasticsearch，优化文档分块(Chunking)与Embedding模型。
4. 引入重排序(Rerank)机制提升RAG检索Top-K准确率。
5. 搭建自动化评测集，对比不同方案的BLEU/ROUGE或人工评分。
【效果展示】
输出《大模型落地技术选型白皮书》。包含：算法架构流程图、算力成本预估、准确率与召回率评测数据、Bad Case分析与优化策略。指导算法团队高效推进项目。