mirror of https://github.com/InternLM/InternLM
update
parent
eaf2ebc0ad
commit
200afcae20
|
@ -30,9 +30,13 @@ InternLM2-Chat 采用了全新的对话格式,以灵活地支持工具调用
|
|||
|
||||
## 完整结构
|
||||
|
||||
以下介绍了 InternLM2-Chat 的完整对话格式,包括了工具调用和代码解释器的使用. InternLM 对于工具调用和代码解释器的使用,支持了**流式格式**以及 **ReACT 格式**。流式格式为 InternLM2-Chat 独有的,为支持通用智能体应用而设计。
|
||||
|
||||
### 流式格式
|
||||
|
||||
InternLM2-Chat 的完整对话格式在上述基本结构的基础上还包含了针对通用智能体的设计,其核心目的是采用流式格式,使得同一套格式在支持各种类插件拓展和智能体环境的同时能够和通用对话兼容。
|
||||
|
||||
### 工具调用
|
||||
#### 工具调用
|
||||
|
||||
InternLM2-Chat 的通用工具调用(function call)支持多种格式,尤其是**json 格式**以便捷下游应用。以此为例,一次完整的工具调用流程如下所示:
|
||||
|
||||
|
@ -73,7 +77,7 @@ InternLM2-Chat 的通用工具调用(function call)支持多种格式,尤
|
|||
2. 模型在接受到用户指令后,会以流式的形式调用工具,及自然地生成文字进行思考/回应用户,然后输出`<|action_start|><|plugin|>`。`<|action_start|>`表示要调用外部插件,同时 `<|plugin|>` 表示调用的是常规工具。然后模型输出 json 格式的工具调用内容,再以 `<|action_end|>` 表示工具调用结束。
|
||||
3. 系统返回工具调用结果,以 `<|im_start|>environment name=<|plugin|>`开头,表示是来自环境关于工具调用的反馈,内容是 json 格式,`{"temperature": 22}`,以`<|im_end|>`结尾。
|
||||
|
||||
### 代码解释器
|
||||
#### 代码解释器
|
||||
|
||||
InternLM2-Chat 支持使用代码解释器解决复杂数学问题和进行数据分析。整个调用流程和通用工具调用类似,如下所示
|
||||
|
||||
|
@ -135,7 +139,7 @@ fig.show()
|
|||
3. 模型在接受到用户指令后,会以流式的形式调用工具,及自然地生成文字进行思考/回应用户,然后输出`<|action_start|><|interpreter|>`。`<|action_start|>`表示要调用外部插件,同时 `<|interpreter|>` 表示调用的是代码解释器。然后模型输出 markdown 中 python 代码块格式代码内容,再以 `<|action_end|>` 表示工具调用结束。
|
||||
4. 系统会执行代码块中的代码,然后返回调用结果,以 `<|im_start|>environment name=<|interpreter|>`开头,表示是来自环境关于代码解释器执行的输出,以`<|im_end|>`结尾。
|
||||
|
||||
### 同时使用工具和代码解释器
|
||||
#### 同时使用工具和代码解释器
|
||||
|
||||
InternLM2-Chat 能够在一个对话过程中自主选择调用工具或代码解释器。在工具和代码解释器同时开启的情况下,只需要将各自的系统提示合并在一起给模型即可。一个调用工具和代码解释器的对话历史样例如下。
|
||||
|
||||
|
@ -220,7 +224,9 @@ fig.show()
|
|||
上海的天气是 22 摄氏度<|im_end|>
|
||||
````
|
||||
|
||||
## ReACT 对话格式
|
||||
### ReACT 对话格式
|
||||
|
||||
ReACT 格式是 [ReAct: Synergizing Reasoning and Acting in Language Models](https://arxiv.org/abs/2210.03629) 提出的一个工具调用的对话格式。ReACT 格式的对话历史样例如下(对于 InternLM 更推荐使用[**流式格式**](#流式格式))
|
||||
|
||||
#### 工具调用
|
||||
|
||||
|
|
Loading…
Reference in New Issue