2026-06-110

embedding 模型的作用是什么

将文本映射到一个能够表达语义信息的向量空间中,使语义相似的文本在向量空间中的距离更近。

  • 示例解释
    • 苹果手机多少钱和iphone的价格是多少
    • 虽然文字字面不同,但是语义是相同的
    • 转为向量后,向量距离会很近

prompt、rag、skill和微调的区别

  • promt 的目标是如何用好llm现有的能力
  • rag 是通过外部知识库,来解决llm 无法获取实时信息的问题
  • 微调 是调整底层具备的能力、风格,是模型群众的重塑
  • skill 的话是行为能力的一种延伸

如何选择

  • 当你在工程落地中面临选择时,可以依次问自己以下几个问题:
  • 模型现有的知识和能力够用吗?
    • 够用 ➡️ 提示工程。
  • 不够用,是因为缺乏特定/实时的垂直知识吗?
    • 是,需要看文档 ➡️ RAG。
  • 不够用,是因为需要做数学计算、数据库查询等具体动作吗?
    • 是,需要连外部系统 ➡️ Skill / Tool Calling。
  • 模型什么都知道,但怎么和它说它都不听话、格式总是对不齐、或者想要极致的特定文风?
    • 是,必须改造行为 ➡️ 微调。

如何避免 Agent 调错工具

  • 这个项目已经做了几层约束,面试时可以按“提示约束 + 参数约束 + 执行约束 + 观测纠偏”来答。
js
这个项目里,用户提问后不一定直接走大模型生成,而是会先进入 Agent 的工具调用链。核心工具主要分四类。 第一类是推理工具,项目里默认挂了 sequentialthinking,作用是让 Agent 在复杂问题下先拆解问题、 再决定要不要调用别的工具。这个工具更像一个思考辅助,不直接查业务数据。 第二类是知识库检索工具,也就是 knowledge_base。当用户问设备说明书、操作手册、技术参数这类问题时, Agent 会调用它去 Milvus 里做向量检索,返回相关 chunk、文件名、文件 ID、chunkId 和 score。 这个工具主要解决非结构化文档问答。 第三类是结构化业务查询工具,主要包括设备、空间、工单三组。比如: find_devices:按设备名查设备 find_devices_by_space:查某个空间下的设备 find_spaces、find_child_spaces:查空间树 search_work_orders:查工单文本 这类工具主要解决数据库里已经结构化存储的数据查询。 第四类是统计分析工具,比如: device_statistics space_statistics work_order_statistics 这类工具支持更灵活的统计查询,尤其是工单统计支持 SQL 输入,但项目里又加了 SQL 校验器,限制表白名单、禁止危险语句、强制 LIMIT,避免模型乱生成 SQL

mcp和skill的区别

image.png

本文作者:曹子昂

本文链接:

版权声明:本博客所有文章除特别声明外,均采用 BY-NC-SA 许可协议。转载请注明出处!