前言

你已经熟练使用大模型的 API 来自动处理各种批量任务。不过，你可能也发现，并不是所有任务大模型都能完美解决。例如，当你给大模型一批小学难度的计算题，比如393乘以285，它竟然给出了错误答案。就像不擅长数学的人可以使用计算器来解决复杂的算术问题一样，大模型也可以借助插件这种工具来解决它原本难以解决的问题。

课程目标

学完本课程后，你将能够：

• 了解大模型插件的使用
• 学习大模型插件原理及开发自定义插件

1 什么是插件

大模型插件是一种软件组件，它们设计用于增强和扩展基础大模型的功能。如网络搜索、视觉生成、语音合成等。

典型的插件包括：

• 基础工具，如计算器、时钟、天气信息、股票行情
• 可以让用户获得实时性消息的插件，比如体育赛事报道、实时、热点新闻
• 可以为模型拓展更多能力的插件，比如图片生成、语音合成、代码解释器

企业内部技术团队也可以定制开发大模型应用服务插件，比如通过飞猪开放平台的API查询酒店信息、预订酒店住宿及机票等，为公司员工提供便捷的差旅服务支持。

2 插件演示

大语言模型在数学计算方面并不擅长，在回答稍微复杂的数学问题时往往无法输出准确的结果。

尝试提问393x285，输出结果是错的。

注：正确答案是112005。

即使让大模型通过编程来实现，输出结果也是错的，因为它并没有真正地运行代码。

这个时候，我们可以给大语言模型添加插件，比如计算器。

可以看到，输出结果是准确的，这是因为大模型借助计算器插件进行了实际运算。

换一个插件，这次给大模型添加一个代码解释器插件，看看计算的结果。

可以看到，结果也是准确的，这是因为大模型通过代码解释器真正地运行了python代码。

上述示例是在百炼平台的可视化界面上操作完成的。除了官方插件，你还可以开发自定义的插件实现更多的功能，例如查询实时天气、查询阿里云账号下已购买的云服务器等。

通过图片生成插件生成广告图片（概念示意图）	通过自定义插件实现云资源查询（概念示意图）

3 工作原理

大模型应用使用插件的决策流程和人类使用工具的流程是一样的。首先接收输入，判断是否需要使用工具及选择合适的工具，然后使用工具并获得返回结果进行后续推理生成。

                                                                    大模型执行插件原理图

本节小结

本课程带你了解大模型通过插件与三方应用交互，实现能力增强和拓展。你可以将大模型和业务系统现有的功能进行有机结合，如建立待办事项、抢占会议室，甚至查询当前云账号下保有的阿里云资源等。有插件增强的大模型应用就好像你的私人助理，你只需要发送指令，它可以帮助你完成所有的工作。