大模型如何和现有的系统融合、协同工作?

如何将大模型与现有智能客服系统的小模型或知识图谱结合,同时将人类专家的知识和经验融入到大模型中,提高大模型的性能和可解释性?

参与9

3同行回答

peimapeima课题专家组架构师某金融公司
在智能客服场景,大语言模型与知识图谱融合应用智能检索能力,通过对用户输入的查询进行分析和匹配,从海量的数据中快速返回相关信息,显示全部

在智能客服场景,大语言模型与知识图谱融合应用智能检索能力,通过对用户输入的查询进行分析和匹配,从海量的数据中快速返回相关信息,

收起
银行 · 2024-01-11
浏览346
abcruichaoabcruichao系统工程师中国农业银行
首先引用一下OpenAI华人科学家翁丽莲关于未来通用智能体的公式:Agent = LLM + memory + planning skills + tool use智能体代理 = 大模型 + 记忆 + 技能规划 + 工具使用大模型可以基于工具使用的方式与现有的系统融合、协同工作,工具使用赋予了大模型与...显示全部

首先引用一下OpenAI华人科学家翁丽莲关于未来通用智能体的公式:
Agent = LLM + memory + planning skills + tool use
智能体代理 = 大模型 + 记忆 + 技能规划 + 工具使用

大模型可以基于工具使用的方式与现有的系统融合、协同工作,工具使用赋予了大模型与外界系统实时交互的能力,使得大模型从“告诉用户怎么做”转变为“帮助用户去做”。大模型在整体系统中扮演“大脑”的角色,提供逻辑推理、工具调用规划等能力。

以查询天气信息并发送邮件为例详细描述大模型如何与现有系统融合、协同工作:
假设大模型已接入天气查询API Weather和邮件发送API Email。
天气查询API接收城市作为输入,输出温度和天气状况。
邮件发送API接收邮件内容和目的地址为输入,输出邮件发送状态。

用户输入:“请将今天北京天气发送到我邮箱,邮箱地址为XXX@XXX.XXX”
大模型将用户输入分解为天气查询和邮件发送两个任务。
第一步大模型将天气查询任务格式化为JSON格式{“action”:"Weather","action_input":"北京"},调用天气查询API获得{“temperature”:"8℃","description":"晴天"}的查询结果。
第二步大模型将查询到的结果格式化为自然语言:“根据最新的天气API调用结果,今天北京的天气是晴朗,温度为8摄氏度”
第三步大模型邮件发送任务格式化为JSON格式{“action”:"Email","action_input":["根据最新的天气API调用结果,今天北京的天气是晴朗,温度为8摄氏度 ","XXX@XXX.XXX "]},调用邮件 发送API获得{“status”:"success"}的结果。
最后一步大模型将回答反馈给用户:“根据最新的天气API调用结果,今天北京的天气是晴朗,温度为8摄氏度 ,该信息已发送到您邮箱,请注意查收”

收起
银行 · 2024-01-09
浏览375
catalinaspringcatalinaspring联盟成员副处长金融
需求分析第一步先了解企业的业务需求和目标,明确是否要上大模型。主要从成本、量化需求和部署方式三个方面来考虑。模型选型模型选型需要考虑的事情包括资源分析和模型挑选。数据整理数据是新时代的石油,也是大模型的石油。在应用侧,企业能够提供的数据集也是与模型效果相关...显示全部
  1. 需求分析
    第一步先了解企业的业务需求和目标,明确是否要上大模型。主要从成本、量化需求和部署方式三个方面来考虑。
  2. 模型选型
    模型选型需要考虑的事情包括资源分析和模型挑选。
  3. 数据整理
    数据是新时代的石油,也是大模型的石油。在应用侧,企业能够提供的数据集也是与模型效果相关度最高的内容。因此要用好大模型,就需要先整理好数据。
  4. 模型评估
    模型评估是进一步了解大模型效果的一环。
  5. 模型精调
    在确认模型之后就需要开始进行针对性的精调了。每家企业都有自身独有的业务诉求和数据,大模型对于此类深入到行业的数据往往缺乏积累,很难满足具体场景的使用需求,此时就需要模型精调。
收起
银行 · 2024-01-11
浏览335

ChatGPT 回答

在证券行业中,大模型和小模型或知识图谱的结合可以提高智能客服系统的性能和可解释性。以下是一些建议:

  1. 将小模型或知识图谱作为大模型的输入:小模型或知识图谱可以提供一些基础的信息,例如证券行业的基本概念、行业规则等。将这些信息作为大模型的输入,可以帮助大模型更好地理解用户的问题和需求。
  2. 将人类专家的知识和经验融入到大模型中:人类专家的知识和经验是非常宝贵的,可以帮助大模型更好地理解用户的问题和需求,并提供更准确的解决方案。可以通过人工智能技术将人类专家的知识和经验转化为可供大模型使用的数据,例如知识图谱、规则库等。
  3. 利用大语言模型的能力:大语言模型可以通过学习大量的文本数据,自动提取出其中的知识和模式。可以利用大语言模型的能力,对证券行业的相关文本数据进行训练,从而提高大模型的性能和可解释性。
  4. 应用场景:大模型可以应用于智能投顾、协同流程等场景中,帮助用户更好地理解证券行业的相关知识和规则,并提供更准确的投资建议和解决方案。

总之,大模型和小模型或知识图谱的结合,可以提高智能客服系统的性能和可解释性,同时将人类专家的知识和经验融入到大模型中,可以进一步提高大模型的性能和可解释性。

提问者

a329401416
产品经理国泰君安

问题来自

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2024-01-03
  • 关注会员:4 人
  • 问题浏览:849
  • 最近回答:2024-01-11
  • X社区推广