大模型如何和现有的系统融合、协同工作?

如何将大模型与现有智能客服系统的小模型或知识图谱结合,同时将人类专家的知识和经验融入到大模型中,提高大模型的性能和可解释性?显示全部

如何将大模型与现有智能客服系统的小模型或知识图谱结合,同时将人类专家的知识和经验融入到大模型中,提高大模型的性能和可解释性?

收起
参与9

查看其它 2 个回答abcruichao的回答

abcruichaoabcruichao系统工程师中国农业银行

首先引用一下OpenAI华人科学家翁丽莲关于未来通用智能体的公式:
Agent = LLM + memory + planning skills + tool use
智能体代理 = 大模型 + 记忆 + 技能规划 + 工具使用

大模型可以基于工具使用的方式与现有的系统融合、协同工作,工具使用赋予了大模型与外界系统实时交互的能力,使得大模型从“告诉用户怎么做”转变为“帮助用户去做”。大模型在整体系统中扮演“大脑”的角色,提供逻辑推理、工具调用规划等能力。

以查询天气信息并发送邮件为例详细描述大模型如何与现有系统融合、协同工作:
假设大模型已接入天气查询API Weather和邮件发送API Email。
天气查询API接收城市作为输入,输出温度和天气状况。
邮件发送API接收邮件内容和目的地址为输入,输出邮件发送状态。

用户输入:“请将今天北京天气发送到我邮箱,邮箱地址为XXX@XXX.XXX”
大模型将用户输入分解为天气查询和邮件发送两个任务。
第一步大模型将天气查询任务格式化为JSON格式{“action”:"Weather","action_input":"北京"},调用天气查询API获得{“temperature”:"8℃","description":"晴天"}的查询结果。
第二步大模型将查询到的结果格式化为自然语言:“根据最新的天气API调用结果,今天北京的天气是晴朗,温度为8摄氏度”
第三步大模型邮件发送任务格式化为JSON格式{“action”:"Email","action_input":["根据最新的天气API调用结果,今天北京的天气是晴朗,温度为8摄氏度 ","XXX@XXX.XXX "]},调用邮件 发送API获得{“status”:"success"}的结果。
最后一步大模型将回答反馈给用户:“根据最新的天气API调用结果,今天北京的天气是晴朗,温度为8摄氏度 ,该信息已发送到您邮箱,请注意查收”

银行 · 2024-01-09
浏览406

回答者

abcruichao
系统工程师中国农业银行

abcruichao 最近回答过的问题

回答状态

  • 发布时间:2024-01-09
  • 关注会员:4 人
  • 回答浏览:406
  • X社区推广