2.0 KiB

Raw Permalink Blame History

OpenAOE 多模型对话

English | 简体中文

介绍

OpenAOE 是一个 LLM-Group-Chat 框架，可以同时与多个商业大模型或开源大模型进行聊天。 OpenAOE还提供后端API和WEB-UI以满足不同的使用需求。

目前已经支持的大模型有： internlm2_5-7b-chat, IntenLM-Chat-7B, GPT-3.5, GPT-4, Google PaLM, MiniMax, Claude, 讯飞星火等。

快速安装

我们将提供 3 种不同的方式安装：基于 pip、基于 docker 以及基于源代码，实现开箱即用。

基于 pip

!TIP
需要 python >= 3.9

安装

pip install -U openaoe

运行

openaoe -f /path/to/your/config-template.yaml

基于 docker

安装

有两种方式获取 OpenAOE 的 docker 镜像：

官方拉取

docker pull opensealion/openaoe:latest

本地构建

git clone https://github.com/internlm/OpenAOE
cd OpenAOE
docker build . -f docker/Dockerfile -t openaoe:latest

运行

docker run -p 10099:10099 -v /path/to/your/config-template.yaml:/app/config.yaml --name OpenAOE opensealion/openaoe:latest

基于源代码

安装

克隆项目

git clone https://github.com/internlm/OpenAOE

```
_可选_
```

cd OpenAOE/openaoe/frontend
npm install
npm run build

运行

cd OpenAOE
pip install -r openaoe/backend/requirements.txt
python -m openaoe.main -f /path/to/your/config-template.yaml

!TIP
/path/to/your/config-template.yaml 是 OpenAOE 启动时读取的配置文件，里面包含了大模型的相关配置信息，包括：调用API地址、AKSK、Token等信息，是 OpenAOE 启动的必备文件。模板文件可以在 openaoe/backend/config/config-template.yaml 中找到。

2.0 KiB Raw Permalink Blame History Unescape Escape