Hydro-Minim / Archives

归档

按时间折叠所有文章，像翻阅一组轻薄的创作年表。
Articles
32
Page
2/4

Year

2026

3 个月份

03 月

1 篇
向量库与 Embedding Embedding通过编码器将文本压缩为高维稠密向量，实现语义相似度检索（余弦距离）；稀疏向量如BM25用于关键词匹配。主流向量库选型需结合场景：Chroma适合中小原型，Weaviate支持原生混合检索（关键词+向量）与多租户隔离，Milvus面向大规模分布式生产，Pinecone提供免运维SaaS服务。性能优化依赖ANN算法（如HNSW），牺牲极小精度换指数级提速。实战中向量化耗时占90%，需预处理题干降维、去无关文本并异步更新。选型核心：Embedding优先中文优化模型，向量库按规模与运维能力匹配。 检索增强 RAG

02 月

2 篇
RAG 检索增强生成 RAG技术通过将外部知识库与LLM结合，有效缓解模型幻觉。其核心流程分为数据准备（采集、解析、智能分块、向量化）和查询响应（查询理解、混合检索、重排序、上下文构建、生成）。优化方向包括前检索（查询重写、多查询扩展）、中检索（混合检索、多路召回）和后检索（重排序、上下文压缩、拒答兜底）。分块策略推荐500字符/100重叠的滑动窗口，平衡语义完整与检索效率。表格和图片需经OCR或结构化处理后嵌入。混合检索融合向量语义与BM25关键词，RRF或加权归一化可融合排序。Rerank用Cross-Encoder模型精排候选结果。评估采用RAGAS框架的忠实度、答案相关性等指标。进阶范式中GraphRAG支持多跳推理，Self-RAG实现自主决策。工程落地需关注数据治理、检索加速（HNSW索引）和时效性管理。掌握RAG需从流程、优化到量化评估迭代，适配业务场景。 检索增强 RAG 大模型调用与流式 ① OpenAI 兼容接口（标准化，支持流式/FC，广泛支持）② LangChain 接口（ChatOpenAI 封装）③ HTTP 原生（httpx/requests）。所有模型可通过 OpenAI 兼容接口统一调用，切换只改 base_ 大模型工程

01 月

3 篇
Dify 与低代码平台 1. Dify / LangChain / Coze 选型 大模型工程 MCP 模型上下文协议 MCP（Model Context Protocol）是 Anthropic 提出的开源标准化协议，采用 ClientServer 架构，把 AI 客户端和底层数据/工具彻底解耦。 MCP Server：暴露工具（搜索/本地文件/数据库/T 大模型工程 Function Calling Function Calling是大模型API的原生能力，开发者在代码中定义函数名和参数Schema，模型自主判断是否调用并输出合规参数JSON，实现与外部工具交互。工作机制分为五步：定义Schema、模型决策、输出JSON、本地执行、结果回传。与MCP相比，FC与项目代码耦合，MCP通过Client-Server架构实现解耦与可迁移。与RAG区别在于：FC执行动作/查动态数据，RAG检索静态知识。FC也是一种结构化输出方式，可强制约束格式减少幻觉。工程上需分层校验参数幻觉，区分可重试与不可重试错误；安全上模型仅建议权，高危工具需人工确认，入参按不可信输入处理；性能上支持并行调用、缓存只读工具、流式提前触发；架构上简单工具用原生FC，跨项目复用能力封装MCP Server以避免维护问题。 大模型工程

Year

2025

2 个月份

12 月

2 篇
提示词工程 提示词工程决定AI模型输出的质量。核心是六要素结构：角色、指示、上下文、示例、输入、输出。优化方向包括指示限制补充、Few-Shot示例鲜明化、思维链（CoT）引导推理、选择合适模型。设计时注意“Lost in the Middle”陷阱，将重要指令置于开头或结尾。Prompt Caching可重复利用系统指令，降低成本并提升响应速度。结构化输出（JSON模式、函数调用、JSON Schema）结合前置硬约束、Prompt防御和后置容错，避免解析错误。防泄答场景需用Few-Shot正反例、角色隔离和状态机控制。超长文本处理采用文档分块、关键信息提取、摘要压缩和长窗口模型。CoT变体包括Zero-shot-CoT、Few-shot-CoT、Self-Consistency、Least-to-Most、ToT/GoT/AoT，按任务复杂度选用。掌握这些技巧可使模型精准执行，释放大模型价值。 大模型工程 多模态生成与理解架构 本篇补生成视角，多模态大模型的三段式架构细节见 08 大模型调用 §12，此处不重复。 模型原理

11 月

2 篇
文生视频与语音生成 本文介绍了文生视频和语音生成两大方向。文生视频在图像扩散基础上增加时间维度，采用DiT架构和时空patch（如Sora），核心难点是时序一致性。主流产品包括Sora、可灵、Runway Gen-3和Pika。语音生成TTS经典链路为文本→声学特征→声码器→波形，代表方法有VITS和扩散类TTS，而zero-shot语音克隆（如ElevenLabs、CosyVoice）可用几秒音频合成新语音。ASR（Whisper）与TTS互为逆过程，数字人通过TTS加口型驱动实现。此外，视频生成因时序一致性和算力需求比图像更难；TTS效果用MOS评价；流式TTS需分块生成并低延迟播放；语音克隆存在声音伪造等滥用风险，需授权和风控机制。 模型原理 扩散模型与文生图 扩散模型（Diffusion Model）分两个过程： 模型原理