大模型工程
阅读 0
评论 0
点赞 0
大模型调用与流式
① OpenAI 兼容接口(标准化,支持流式/FC,广泛支持)② LangChain 接口(ChatOpenAI 封装)③ HTTP 原生(httpx/requests)。所有模型可通过 OpenAI 兼容接口统一调用,切换只改 base_
大模型工程
① OpenAI 兼容接口(标准化,支持流式/FC,广泛支持)② LangChain 接口(ChatOpenAI 封装)③ HTTP 原生(httpx/requests)。所有模型可通过 OpenAI 兼容接口统一调用,切换只改 base_
大模型工程
1. Dify / LangChain / Coze 选型
大模型工程
MCP(Model Context Protocol)是 Anthropic 提出的开源标准化协议,采用 ClientServer 架构,把 AI 客户端和底层数据/工具彻底解耦。 MCP Server:暴露工具(搜索/本地文件/数据库/T
大模型工程
Function Calling 是大模型 API 的原生能力(OpenAI/豆包等)。开发者在代码里定义函数名、参数 JSON Schema 注入 Prompt,大模型理解意图后决定是否调用并输出符合 Schema 的参数 JSON。是模
大模型工程
角色、指示、上下文、例子、输入、输出。角色=最匹配任务身份;指示=任务描述;上下文=背景;例子=FewShot;输入=明确标识;输出=风格/格式(JSON/XML 便于解析)。