大模型联网搜索在to B智能体的应用

本文2441字，预计5分钟读完。

在笔者之前的文章《一文了解AI Agent（智能体）》中，跟大家分享过智能体的构成要素，其由四个部分组成。其中，大模型（LLM）主要承担着“大脑”的关键角色。要构建一个完整的智能体，就需要大模型根据具体情况挑选出合适的工具（Tools），从而更高效地达成既定的目标与任务。

本篇文章将跟大家分享，如何把“联网搜索”的能力结合到to B智能体的探索实践中。

二、什么是大模型的联网搜索能力

首先大模型本身并不具备联网搜索的属性。其联网搜索能力，是指通过实时互联网搜索获取最新信息，从而生成更准确、合理的回答。

这一能力主要解决大模型预训练知识库因时效性限制而导致的实时知识滞后问题。联网搜索本质上是一种辅助工具，它帮助大模型获取实时信息并将其与提问作为输入，进而结合这些信息生成更精准的回复。

以下是大模型联网搜索的业务流程：

• 用户提问：用户向大模型提出问题，模型首先判断该问题是否需要联网搜索来获取最新信息。

• 调用搜索API：如果需要联网搜索，模型会调用搜索引擎的API，将问题中的关键词作为搜索参数发送给搜索引擎。

• 解析搜索结果：搜索引擎返回搜索结果后，模型会解析这些结果，从中提取出与问题最相关的文本内容，进行相似度排序。

• 生成最终回答：将重排结果内容作为问答的上下文，结合问题再次与大模型交互，由模型进行内容生成和聚合，最终生成并返回准确、自然的答案。

日常生活中如：天气查询、新闻资讯查询、商品价格查询等场景，因受实时因素影响较大，仅凭大模型知识库难以准确回答，此时就需要借助联网搜索这一外部工具。

三、联网搜索能力在toB软件的应用场景

在销售员的日常客户管理跟进场景中，了解企业客户的最新动态至关重要。这些动态包括工商信息的变更、新闻舆情的走向等，它们直接影响到销售策略的调整和跟进计划的制定。

去年，笔者所在团队推出了一款名为【商机助手】的智能体，主要帮助用户更高效地获取企业客户的工商信息。

用户可以通过聊天的方式向【商机助手】提出问题，智能体会通过本地知识库的RAG技术，召回与提问相似度高的工商信息，并将这些片段传入大模型进行整合和生成，最终为用户提供精准的回复。

在落地过程中，我们发现了一个问题：由于本地知识库通常以结构化形式存储数据，通过RAG召回的内容也呈现出结构化特征。这导致智能体的回答显得十分生硬，整体表现更像是一个简单的知识检索工具，而非真正的智能助手。例如：

当用户查询“某家企业的产品是什么”时，RAG召回的内容可能仅仅是产品的具体名字。然而，用户需要得到的不仅仅是产品名字，还期望能附上与产品相关的简单介绍和最新动态。这种情况下，智能体的回答无法满足用户对信息丰富度和深度的需求，用户体验大打折扣。

其次，在对知识时效性要求更高的新闻舆情查询场景中，大模型是无法给出实时回答。例如：

当询问大模型“小米汽车最新款是哪一个？”时，由于大模型的预训练知识库存在时效性滞后问题，它无法提供最新的准确信息，从而无法满足用户对实时性知识查询的需求。

针对以上两个场景，为了给用户带来更好的产品使用体验，此时就需要借助联网搜索的能力。

四、实现思路

也许大家会疑问，用户完全可以使用具备联网搜索能力的通用大模型来查询企业工商信息和新闻舆情，为【商机助手】智能体赋予联网搜索的价值在哪里呢？

这是由于企业信息查询并非用户在这个场景下的最终诉求。用户查询企业信息的本质是需要根据最新信息来动态制定针对性的跟进策略。因此，在智能体回复内容后，能够自动关联CRM系统中的具体客户资料卡，并且支持连接联系（拨打电话、发短信）、跟进（制定待办任务、打标签）等功能操作，更有利于确保整个企业信息查询业务的完整性和连贯性。

那么，联网搜索的能力是否为自研呢？

答案是否定的。目前，许多模型云厂商已经开放了一系列丰富的组件能力，例如 AI 实时搜索、图像内容理解、文生图等。作为AI业务应用方，我们可以通过集成这些工具，让智能体变得更加强大。

最终【商机助手】的优化方案如下：

• 企业名称提取：当用户提出问题时，首先利用大模型从问题中提取出企业名称。

• 企业名称匹配：由于用户在提问中提到的企业名称通常为简称。为了避免因名称不完整或不准确而导致的查询错误，接下来需要进行业务检索（关键词+相似度检索），将提取出的简称与系统中存储的企业信息进行匹配，精准定位到用户提问中所指的具体企业。

• 联网搜索能力判断：大模型根据用户提问的内容，判断是否需要调用联网搜索的能力。如果需要，围绕用户提问通过联网搜索获取最新的企业相关信息（如工商信息变更、新闻舆情等），确保回答的时效性和准确性。

• 信息关联与业务操作：结合大模型返回的内容，自动关联CRM中的客户资料卡。在此基础上，为用户提供一系列针对性的业务操作，比如：

• 当用户未入库时，提供“入库客户”、“联系客户”等操作。
• 当用户为本人跟进时，提供“查看客户详情”、“制定待办任务”、“打标签”等操作。
• 当用户非本人跟进时，提供“请求共享”操作。

通过以上方案，用户在使用【商机助手】智能体的过程中，不仅能够快速获取所需信息，还能直接在业务流程中进行客户跟进，实现企业信息查询与销售跟进的无缝衔接，提升工作效率。

在以上场景中，主动询问智能体的方式仍然存在一定的局限性，毕竟用户通常无法实时知晓企业信息何时会发生变更。

为了更好地满足用户需求，我们可以引入“推”的方式，比方说：系统主动监测到企业关键信息发生变更（如：法人变更、经营范围调整又或者重大新闻报道、负面舆情等）后推送给用户，让用户在第一时间掌握企业客户的最新动态，从而更好地制定针对性的跟进策略。

六、结语

“联网搜索”只是大模型众多的工具之一，在to B智能体的构建过程中，还有很多实用的工具与场景值得我们去挖掘，之后的文章笔者也会陆续分享一些有趣的想法与实践。

以上是笔者近阶段个人的学习与思考，希望能帮到你。