|
# README |
|
|
|
## 模型配置 |
|
|
|
在 `main.py` 文件中,修改 `model_path = /path/to/chatglm3-6b` 路径,也可以填写 `THUDM/chatglm3-6b` 自动下载模型。 |
|
|
|
## 工具添加 |
|
|
|
### LangChain 已实现工具 |
|
|
|
参考 [langchain](https://python.langchain.com/docs/modules/agents/tools/) 工具相关函数,在 `main.py` 中导入工具模块,例如导入 `arxiv` 工具 |
|
|
|
```python |
|
run_tool(["arxiv"], llm, [ |
|
"帮我查询AgentTuning相关工作" |
|
]) |
|
``` |
|
|
|
运行 `main.py` 文件 |
|
|
|
``` |
|
python main.py |
|
``` |
|
|
|
模型会因找不到 `arxiv` 工具的 yaml 文件描述而中断,需要用户手动构建 `./Tool/arxiv.yaml` 文件。工具可以用户自行描述,也可以参考 LangChain 对该工具的描述。 |
|
|
|
对 `arxiv` 这个例子而言,参考内容位于 `./Tool/arxiv_example.yaml` 文件,可参考该文件构建 `Tool/arxiv.yaml` 文件(最简单的方式修改名称即可),重新运行模型就能合理调用工具。 |
|
|
|
> 有些工具需要导入 API_KEY,按照 langchain 报错添加到环境变量即可。 |
|
|
|
### 自定义工具 |
|
|
|
如果用户想自定义工具,可以参考 `Tool/Weather.py` 以及 `Tool/Weather.yaml` 文件,重载新的 `Tool` 类,实现其对应的 `_run()` 方法,然后在 `main.py` 中导入该工具模块,例如导入 `Weather` 工具,即可以调用 |
|
|
|
```python |
|
# 对同一个工具调用多次 |
|
# 需要 export SENIVERSE_KEY=<YOUR_API_KEY_HERE> |
|
run_tool([Weather()], llm, [ |
|
"今天北京天气怎么样?", |
|
"What's the weather like in Shanghai today", |
|
]) |
|
``` |
|
|
|
## 多工具使用 |
|
|
|
可以将多个工具组装在一起让模型自动选择调用,例如 |
|
|
|
```python |
|
run_tool([Calculator(), "arxiv", Weather()], llm, [ |
|
"帮我检索GLM-130B相关论文", |
|
"今天北京天气怎么样?", |
|
"根号3减去根号二再加上4等于多少?", |
|
]) |
|
``` |
|
|