跳至主要內容

核心名词解释与引用

高谷深陵大约 10 分钟约 2854 字

核心名词解释与引用

本文件用于统一 15 篇公众号终稿中的核心术语解释。每个名词按“来源脉络、专业解释、通俗理解、引用地址”组织。

企业 AI 核心名词地图
企业 AI 核心名词地图

大模型 API

  • 来源脉络：API 是软件系统之间交互的通用概念，不是 AI 时代才有。OpenAI、Anthropic、Google 等模型厂商把大模型能力封装成可调用 API 后，企业可以通过接口调用文本生成、Embedding、工具调用等能力。
  • 专业解释：大模型 API 是业务系统通过 HTTP/API 协议向模型服务发送输入，并接收模型输出的接口层。
  • 通俗理解：它像“远程请一个模型帮你干活”的电话线，但电话线通了，不代表企业流程、权限、成本和质量都解决了。
  • 引用地址：
    • OpenAI API 模型文档：https://platform.openai.com/docs/models
    • OpenAI API 概念文档：https://platform.openai.com/docs/concepts

Prompt / Prompt Engineering

  • 来源脉络：Prompt 本意是给模型的输入提示。Prompt Engineering 没有单一公认提出者，而是随着 GPT、ChatGPT 和各类大模型应用普及，逐步成为开发者设计模型输入、约束输出的重要实践。
  • 专业解释：Prompt Engineering 是设计和优化输入指令、上下文、格式要求、示例和约束条件，使语言模型更稳定地产生符合任务目标的输出。
  • 通俗理解：Prompt 像给 AI 的工作说明书，不只是“怎么问”，更是“什么能做、什么不能做、按什么格式交付”。
  • 引用地址：
    • OpenAI Prompt Engineering Guide：https://platform.openai.com/docs/guides/prompt-engineering
    • OpenAI Prompt Engineering Best Practices：https://help.openai.com/en/articles/6654000-how-to-prompt-chatgpt

API Gateway / LLM Gateway

  • 来源脉络：API Gateway 是云服务和微服务架构中的成熟概念。LLM Gateway 是把这一思想迁移到大模型调用场景，用来统一模型厂商适配、日志、限流、成本、审计和发布策略。
  • 专业解释：API Gateway 是统一创建、发布、维护、监控和保护 API 的入口；LLM Gateway 则是面向大模型调用的统一网关。
  • 通俗理解：API Gateway 像公司前台，不让每个业务部门直接找外部供应商；LLM Gateway 就是企业调用大模型的统一前台。
  • 引用地址：
    • AWS API Gateway 官方文档：https://docs.aws.amazon.com/apigateway/latest/developerguide/welcome.html
    • IBM API Gateway 解释：https://www.ibm.com/think/topics/api-gateway

Embedding

  • 来源脉络：把词或文本表示成向量是自然语言处理长期研究方向。2013 年 Google 研究者 Tomas Mikolov 等人的 Word2Vec 论文推动了词向量的大规模普及；后续 OpenAI 等厂商把文本 Embedding 封装成 API，用于搜索、聚类、分类、推荐等任务。
  • 专业解释：Embedding 是把文本、代码或其他对象映射成高维向量，使系统可以用距离或相似度计算它们的语义相关性。
  • 通俗理解：Embedding 像给每段文字发一张“语义坐标卡”，意思接近的内容在坐标空间里更近。
  • 引用地址：
    • Word2Vec 论文：https://arxiv.org/abs/1301.3781
    • OpenAI Embeddings 文档：https://platform.openai.com/docs/guides/embeddings
    • OpenAI Embeddings 介绍：https://openai.com/index/introducing-text-and-code-embeddings/

RAG

  • 来源脉络：RAG 全称 Retrieval-Augmented Generation。2020 年 Patrick Lewis 等人在论文《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》中系统提出并实验了这一思路，后来成为企业知识库问答的重要架构。
  • 专业解释：RAG 是先从外部知识源检索相关资料，再把检索结果作为上下文交给生成模型，从而增强回答事实依据的架构。
  • 通俗理解：RAG 就是“先查资料，再回答”。模型不是凭记忆说，而是拿着企业资料组织答案。
  • 引用地址：
    • RAG 论文：https://arxiv.org/abs/2005.11401
    • NeurIPS 2020 论文 PDF：https://papers.neurips.cc/paper/2020/file/6b493230205f780e1bc26945df7481e5-Paper.pdf

Tool Calling / Function Calling

  • 来源脉络：OpenAI 在 2023 年 6 月发布 Function Calling 能力，让开发者用 JSON Schema 描述函数，模型可按用户意图选择函数并生成参数。后来不同厂商和框架逐步把类似能力称为 Tool Calling。
  • 专业解释：Tool Calling 是让模型在回答之外，选择并调用外部工具、函数或 API，以获取实时数据或执行受控动作的机制。
  • 通俗理解：Tool Calling 像给 AI 一张“可办事项清单”，它可以建议办哪件事、填什么参数，但真正能不能办，要由系统审核。
  • 引用地址：
    • OpenAI Function Calling 发布：https://openai.com/blog/function-calling-and-other-api-updates
    • OpenAI Function Calling 帮助文档：https://help.openai.com/en/articles/8555517-function-calling-in-the-openai-api

MCP

  • 来源脉络：MCP 全称 Model Context Protocol。Anthropic 在 2024 年 11 月 25 日宣布开源 MCP，官方说明它是连接 AI 助手与内容仓库、业务工具、开发环境等外部系统的新标准。Anthropic 公告中提到 MCP 由 David Soria Parra 和 Justin Spahr-Summers 在 Anthropic 创建；后续 OpenAI Agents SDK、Microsoft、Google Gemini CLI 等也提供了 MCP 支持或相关集成。
  • 专业解释：MCP 是一种开放协议，用统一方式让 AI 应用连接外部 Tools、Resources、Prompts 等能力。
  • 通俗理解：MCP 像 AI 世界的标准插座，让不同 AI 应用和不同工具系统之间少一点临时接线。
  • 引用地址：
    • Anthropic MCP 发布公告：https://www.anthropic.com/news/model-context-protocol
    • MCP 官方文档：https://modelcontextprotocol.io/
    • MCP 官方规范仓库：https://github.com/modelcontextprotocol/modelcontextprotocol
    • OpenAI Agents SDK MCP 文档：https://openai.github.io/openai-agents-js/guides/mcp/
    • Microsoft MCP C# SDK 合作说明：https://developer.microsoft.com/blog/microsoft-partners-with-anthropic-to-create-official-c-sdk-for-model-context-protocol
    • Google Gemini CLI MCP 文档：https://google-gemini.github.io/gemini-cli/docs/tools/mcp-server.html

Workflow

  • 来源脉络：Workflow 是企业流程管理中的长期概念，不是大模型时代才出现。业务流程建模领域的 BPMN 标准由 Object Management Group 维护，BPMN 2.0 于 2010 年 12 月发布，强调用图形化方式描述业务流程，并可精确到软件执行组件。
  • 专业解释：Workflow 是把业务过程拆成节点、状态、分支、规则、异常处理和责任人的流程编排。
  • 通俗理解：Workflow 像一张办事流程单，先做什么、后做什么、出错怎么办，都提前写清楚。
  • 引用地址：
    • OMG BPMN 官方页面：https://www.omg.org/bpmn/
    • BPMN 2.0 规范页面：https://www.omg.org/spec/BPMN/2.0/About-BPMN/

Agent

  • 来源脉络：Agent 在人工智能中是老概念，指能感知环境并采取行动的智能体。大模型时代，2022 年 ReAct 论文把“推理”和“行动”结合起来，推动了 LLM Agent 的典型范式；2023 年 Auto-GPT 等开源项目又让“自主智能体”在开发者社区快速出圈。
  • 专业解释：LLM Agent 是以大模型为核心，结合目标、规划、工具调用、记忆、状态和反馈，完成多步任务的系统。
  • 通俗理解：Agent 像一个受控办事员，不只是回答问题，还能按规则查资料、调用工具、推进任务。
  • 引用地址：
    • ReAct 论文：https://arxiv.org/abs/2210.03629
    • Auto-GPT 官方仓库：https://github.com/Significant-Gravitas/AutoGPT

LLMOps

  • 来源脉络：LLMOps 来自 MLOps 的延伸。MLOps 是管理机器学习生命周期的实践，关注开发、部署、监控和维护；LLMOps 把这些思想应用到大模型应用，增加 Prompt、RAG、Trace、Eval、成本、延迟和安全治理。
  • 专业解释：LLMOps 是围绕大模型应用的开发、评估、发布、监控、回滚、成本控制和质量治理的一套工程实践。
  • 通俗理解：LLMOps 像 AI 系统的体检和运维制度，让系统上线后能持续看病、复查、修正。
  • 引用地址：
    • Google Cloud MLOps 解释：https://cloud.google.com/discover/what-is-mlops
    • AWS MLOps 解释：https://aws.amazon.com/what-is/mlops/
    • OpenAI Evals：https://evals.openai.com/

Eval / Evaluation

  • 来源脉络：模型评估是机器学习长期实践。大模型应用中，OpenAI Evals 等工具把评估样例、基准测试、回归检查带入模型和应用迭代流程。
  • 专业解释：Eval 是用固定样例、评分规则或人工/自动评审方式，衡量模型或 AI 应用在目标任务上的质量、稳定性和风险。
  • 通俗理解：Eval 像考试卷。每次改 Prompt、RAG 或工具，都要重新考试，防止越改越差。
  • 引用地址：
    • OpenAI Evals：https://evals.openai.com/
    • OpenAI Evals Cookbook：https://cookbook.openai.com/examples/evaluation/getting_started_with_openai_evals

Trace

  • 来源脉络：Trace 是软件可观测性中的通用概念。在大模型应用里，Trace 被用来记录一次回答从用户问题、检索、Prompt、模型调用、工具调用到最终输出的完整链路。
  • 专业解释：Trace 是对一次请求执行路径、输入输出、耗时、错误、上下文和调用关系的结构化记录。
  • 通俗理解：Trace 像 AI 回答的行车记录仪，出事后能回看每一步发生了什么。
  • 引用地址：
    • OpenTelemetry Trace 概念：https://opentelemetry.io/docs/concepts/signals/traces/
    • LangSmith Tracing Quickstart：https://docs.langchain.com/langsmith/observability-quickstart

Harness

  • 来源脉络：Test Harness 是软件测试中的通用概念，指用于自动执行测试、收集结果、隔离被测对象的一套工具和环境。AI 应用中的 Harness 通常用于跑 Prompt、RAG、工具、Workflow 的回归样例。
  • 专业解释：Harness 是一套可重复运行的测试夹具，用来固定输入、执行流程、收集输出并判断结果是否符合预期。
  • 通俗理解：Harness 像一套固定考场，每次改系统，都把同一批题拿出来测一遍。
  • 引用地址：
    • OpenAI Evals Cookbook：https://cookbook.openai.com/examples/evaluation/getting_started_with_openai_evals
    • Google Cloud MLOps CI/CD 说明：https://cloud.google.com/solutions/machine-learning/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning

Dify

  • 来源脉络：Dify 是 LangGenius 维护的开源 AI 应用平台，官方仓库介绍其为面向 agentic workflow development 的平台，涵盖 AI workflow、RAG pipeline、Agent 能力、模型管理和可观测能力等。
  • 专业解释：Dify 是用于构建、部署和管理生成式 AI 应用的低代码/开源平台。
  • 通俗理解：Dify 像一个 AI 应用搭建工作台，可以快速拼出知识库、流程和工具应用，但不能替代企业自己的治理责任。
  • 引用地址：
    • Dify 官方文档：https://docs.dify.ai/
    • Dify 核心概念：https://docs.dify.ai/en/use-dify/getting-started/key-concepts
    • Dify 官方仓库：https://github.com/langgenius/dify

FastGPT

  • 来源脉络：FastGPT 是由 labring 维护的 AI Agent / 知识库问答平台，官方文档强调知识库问答、数据处理、可视化编排和 OpenAI API 兼容能力。
  • 专业解释：FastGPT 是面向知识库问答和 AI 应用编排的开源平台，支持数据导入、知识匹配、可视化流程和 API 集成。
  • 通俗理解：FastGPT 像一个偏知识库问答和应用编排的 AI 搭建工具，适合快速验证，但生产治理仍要单独评估。
  • 引用地址：
    • FastGPT 官方文档：https://doc.fastgpt.io/
    • FastGPT Getting Started：https://doc.fastgpt.io/en/guide/getting-started
    • FastGPT 官方仓库：https://github.com/labring/FastGPT

Coze

  • 来源脉络：Coze 是面向 Bot / Agent / Workflow 的 AI 应用平台，提供工作流、插件、API 和 Bot 构建能力。其官方开发文档和服务条款中均可看到平台、Bot、插件和 API 相关说明。
  • 专业解释：Coze 是用于创建、发布和管理 AI Bot / Agent 应用的平台。
  • 通俗理解：Coze 像一个 AI Bot 搭建平台，适合快速做应用入口和自动化流程，但企业仍要关心数据、合规、权限和可迁移性。
  • 引用地址：
    • Coze 官方开发文档：https://www.coze.com/open/docs/welcome.html
    • Coze Workflow / Chatflow 文档：https://docs.coze.com/guides/workflow_and_chatflow
    • Coze 服务条款：https://www.coze.com/legal/terms