解析GPTs、Assistant API和Function Calling——AI大模型如何连接外部世界?

2024-02-2408:52:48人工智能与大数据Comments199 views字数 2778阅读模式

学习一下如何让AI大模型连接外部世界。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

一、为什么要让大模型连接外部世界?

我们在上文中已经列举了大模型的局限性:没有实时性、无法获取私有知识等。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

在此基础上,我们可以把大模型的局限性细化成以下几条:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

  • 大模型获取不到实时信息,完全不清楚所谓的新闻热点,这一点很不像人类。
  • 大模型掌握的知识是有限的,遇到不懂的问题,就会开始胡编乱造,令人头痛。
  • 大模型还没掌握足够的推理能力(至少目前还不够),在处理较为复杂的问题时,准确性是存疑的,比如解决复杂的数学问题等。
  • 大模型无法获取企业的私有文档(RAG可以一定程度上解决该问题)。
  • 大模型无法获取外部系统数据库中的业务数据,比如地图相关信息、张三在某平台的消费记录等。

我们会发现,不管大模型再怎么训练,这些局限性依然会存在,并不会随着大模型的继续训练而解决。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

把大模型当人看的话,再聪明的人也不可能实时接收消化新知识、不可能拿到所有的私有数据、也就不可能独自解决所有的问题,那么怎么才能让大模型变得可靠又强大呢?文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

答案就是:找可靠的人一起协作,解决各种复杂问题文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

大模型将复杂任务拆解成一个个子任务,遇到搞不定的子任务(或者有更可靠的小伙伴)时,就把问题抛给更专业的小伙伴,小伙伴把处理结果反馈给大模型,最终所有子任务都得到了更好的解决,大模型再根据子任务的处理结果,生成更加可靠的答案。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

比如,大模型接收到一个任务“明天中午的天气怎么样?如果天气好的话,想去国贸附近的麻六记吃饭,不知道人多不多”,首先把任务拆解为如下子任务:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

  1. 查询明天中午的天气。
  2. 需要查询国贸的位置。
  3. 再查询国贸附近麻六记的具体位置,确认该饭店是否存在。
  4. 查询麻六记的商家信息,方便打电话询问或预约。

大模型看了看自己团队里的人(接口),开始分配任务:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

  1. 任务1交给天气接口,得到详细的天气信息。
  2. 任务2交给地图接口,得到国贸的位置。
  3. 再拿着任务2的结果继续让地图接口完成任务3,找到国贸附近的麻六记。
  4. 最后再调用大众点评接口完成任务4,查询麻六记的商家信息。

一切搞定,交作业:“明天中午是个大晴天,这么好的天气当然要出去耍啦。国贸附近的麻六记具体位置在xxxx,评分4.8分,一定非常美味,商家电话xxxx,您可以联系商家预约位置。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

是不是靠谱多了?这个协作的模式其实就有些智能体Agent的意思了,我们下篇文章再细说Agent。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

总之,连接外部世界后的大模型,可以扩展各种需要的能力,比较靠谱的完成各种复杂任务,也让大模型和系统可以更好的集成,增强确定性。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

接下来,我们来介绍一下GPT连接外部世界的三种方式。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

二、GPTs:自定义版本的ChatGPT

GPTs是一个自定义版本的ChatGPT,允许用户直接在界面上调整ChatGPT的功能以适应特定任务或者指令。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

解析GPTs、Assistant API和Function Calling——AI大模型如何连接外部世界?文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

除了基本的GPT配置之外,GPTs还提供了三种能力:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

  1. 可以直接上传私有知识库文档,自动实现RAG。
  2. 内置了几个通用能力(capability):允许网络浏览(遇到不懂的问题会自动搜索之后再生成内容)、允许使用DALL-E生成图片(比如可以让它根据输入生成一张图片)、代码解释器(可以使用python的大部分功能)。
  3. 通过配置Actions来执行外部的动作,actions本质上就是一些我们可以执行的工具,类似于function calling,可以通过接口定义去调用其他应用的能力,这就相当于打通了GPT和其他应用的桥梁,可以互相协作,只需要配置接口定义信息即可。

看起来,GPTs既强大又方便,但是它却又很多的限制:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

  • 只有ChatGPT Plus用户才能访问。
  • 界面不可定制,不能集成进自己的产品。
  • RAG功能,最多只能传10个文件。

也就是说,GPTs相当于自己用提示词和Actions扩展出一个定制功能的ChatGPT,但始终还是个ChatGPT。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

GPTs虽然无法集成到自己的系统中,但比较适合作为功能演示的demo,和用户解释清楚系统的能力边界。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

三、Assistant API:将GPT集成到系统中的开发者接口

OpenAI的Assistant API是一个允许开发者在应用中集成GPT功能的接口。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

简单来说,GPTs是界面化的操作,Assistant API则是针对开发者提供的接口。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

目前,Asssistant API支持三种工具:文件RAG、代码解释器和Function Calling。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

Asssistant API有如下特点:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

  • 可以把GPT的功能集成到自己的系统中。
  • 可以传比GPTs更多的文件。
  • 国内无法访问,只能服务国外用户(国产大模型或开源大模型也会陆续开放自己的Assistant API)。
  • 数据保密需求不高时才适合使用。
  • 收费,不便宜。

如果想扩展chatgpt的能力,让它可以指挥其他的软件去工作,那么就选择GPTs。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

如果想让自己的软件获得ChatGPT的能力,得到AI加持,那么就适合Assistant API。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

四、Function Calling机制:AI大模型连接外部世界的通道

Function Calling指的是在模型中集成外部功能或API的调用能力,可以看作是大模型连接外部世界的通道。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

这意味着大模型可以在完成任务的过程中,调用外部函数或服务,以获取额外的数据或执行特定的任务。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

例如,大模型可以调用天气API来获取最新的天气信息,或者调用翻译服务来提供多语言支持。通过这种方式,大模型可以更加灵活地与外部系统进行交互,实现更丰富的功能和更高的实用性。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

Function Calling通常涉及到插件(Plugins)、OpenAI的Actions或各大模型平台提供的工具集(tools)等技术的使用。这些工具和技术可以帮助开发者更方便地实现Function Calling,提高模型的扩展性和可用性。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

相比GPTs和Assistant API,Function Calling的核心优势:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

  • 可以让大模型与其它业务系统的集成更加灵活和方便。
  • 可以针对业务需求做极致调优。

Function Calling的限制:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

  • 目前只有部分大模型支持Function Calling,但一定会陆续开放,没有Function Calling的大模型无法和其他系统连接,几乎没有可用性。
  • 接口定义会消耗额外的token,费钱。
  • 即便使用了Function Calling,仍然要注意结果永远不是永远正确的,产品经理需要建立在这个假设基础上,去推敲功能的可行性。
  • 需要评估Bad Case的影响范围,并做好系统兼容和用户预期管理。

Function Calling机制的重要意义文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html

  • 理论上来说,通过Function Calling,任何功能都可以和大模型结合,提供更好的用户体验。
  • Function Calling机制是AI Agent化的重要组成部分。
  • Function Calling给大模型的应用提供了无数的可能性,长期来看,落地过程中的各种幻觉问题一定会得到优化和解决,路途只会越来越平坦,前方只会越来越光明。
文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/61088.html
  • 本站内容整理自互联网,仅提供信息存储空间服务,以方便学习之用。如对文章、图片、字体等版权有疑问,请在下方留言,管理员看到后,将第一时间进行处理。
  • 转载请务必保留本文链接:https://www.cainiaoxueyuan.com/ai/61088.html

Comment

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定