特性介绍
模型的函数调用(Function Call)能力,又称工具调用能力(tool use),是指大模型能够调用外部工具以扩展其应用范围。函数调用功能允许模型直接调用外部函数或API,从而获得执行特定任务、获取实时数据或增强决策的能力。这一特性不仅扩展了模型的应用范围,使其能处理更复杂、更具体的问题,提升了模型的实用性和交互性,实现了大模型与外部世界的高效连接,为用户提供更丰富、更个性化的服务。
以下统一使用“工具调用“(tool use)来介绍Function Call特性。
图1 大模型工具调用的流程图
流程步骤
- 上层应用将系统prompt和用户输入内容给到大模型,同时由上层应用负责给出大模型本次执行可用的工具集合。
- 大模型根据系统promp和用户输入内容,决定是直接返回答案还是从应用给出的工具集合中选取一个或多个函数。如果选择使用工具,则将本次选择的工具名称和工具参数取值信息返回给上层应用。
- 上层应用解析来自推理引擎的响应,提取模型选择的工具信息,执行模型选择出的函数,得到本次工具调用的结果。
- 上层应用使用工具调用的结果,构造生成答案的prompt,再次发送给大模型,请求生成最终答案。
- 大模型根据工具调用的结果,总结信息,生成答案并返回。
父主题: Function Call