大模型工程
阅读 0
评论 0
点赞 0
大模型调用与流式
① OpenAI 兼容接口（标准化，支持流式/FC，广泛支持）② LangChain 接口（ChatOpenAI 封装）③ HTTP 原生（httpx/requests）。所有模型可通过 OpenAI 兼容接口统一调用，切换只改 base_
大模型工程
大模型工程
阅读 0
评论 0
点赞 0
Dify 与低代码平台
1. Dify / LangChain / Coze 选型
大模型工程
阅读 0
评论 0
点赞 0
MCP 模型上下文协议
MCP（Model Context Protocol）是 Anthropic 提出的开源标准化协议，采用 ClientServer 架构，把 AI 客户端和底层数据/工具彻底解耦。 MCP Server：暴露工具（搜索/本地文件/数据库/T
大模型工程
阅读 1
评论 0
点赞 0
Function Calling
Function Calling是大模型API的原生能力，开发者在代码中定义函数名和参数Schema，模型自主判断是否调用并输出合规参数JSON，实现与外部工具交互。工作机制分为五步：定义Schema、模型决策、输出JSON、本地执行、结果回传。与MCP相比，FC与项目代码耦合，MCP通过Client-Server架构实现解耦与可迁移。与RAG区别在于：FC执行动作/查动态数据，RAG检索静态知识。FC也是一种结构化输出方式，可强制约束格式减少幻觉。工程上需分层校验参数幻觉，区分可重试与不可重试错误；安全上模型仅建议权，高危工具需人工确认，入参按不可信输入处理；性能上支持并行调用、缓存只读工具、流式提前触发；架构上简单工具用原生FC，跨项目复用能力封装MCP Server以避免维护问题。
大模型工程
阅读 4
评论 0
点赞 0
提示词工程
提示词工程决定AI模型输出的质量。核心是六要素结构：角色、指示、上下文、示例、输入、输出。优化方向包括指示限制补充、Few-Shot示例鲜明化、思维链（CoT）引导推理、选择合适模型。设计时注意“Lost in the Middle”陷阱，将重要指令置于开头或结尾。Prompt Caching可重复利用系统指令，降低成本并提升响应速度。结构化输出（JSON模式、函数调用、JSON Schema）结合前置硬约束、Prompt防御和后置容错，避免解析错误。防泄答场景需用Few-Shot正反例、角色隔离和状态机控制。超长文本处理采用文档分块、关键信息提取、摘要压缩和长窗口模型。CoT变体包括Zero-shot-CoT、Few-shot-CoT、Self-Consistency、Least-to-Most、ToT/GoT/AoT，按任务复杂度选用。掌握这些技巧可使模型精准执行，释放大模型价值。