Hugging Face's logo

Spaces:
internlm
/
MindSearch
Sleeping

App Files Community
2
MindSearch
File size: 4,195 Bytes 
dc9e27a
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
 
# MSDL (MindSearch Docker Launcher) 使用指南

[English](README.md) | 简体中文

## 简介

MSDL (MindSearch Docker Launcher) 是一个专为简化 MindSearch 部署过程而设计的命令行工具。它通过交互式界面帮助用户轻松配置和启动 MindSearch 的 Docker 环境，降低了部署的复杂性。MSDL 主要作为部署容器的脚手架，不涉及 MindSearch 核心逻辑的优化。

## 环境要求

- Python 3.7 或更高版本
- Docker (需包含 Docker Compose，新版本的 Docker 通常已集成)
- Git (用于克隆仓库)
- 稳定的网络连接
- 充足的磁盘空间（根据选择的部署方案，所需空间有所不同）

## 安装步骤

1. 克隆 MindSearch 仓库:
   ```bash
   git clone https://github.com/InternLM/MindSearch.git # 已经克隆过的，可以忽略执行此步骤
   cd MindSearch/docker
   ```

2. 安装 MSDL:
   ```bash
   pip install -e .
   ```

## 使用方法

安装完成后，您可以在任意目录下运行 MSDL 命令：

```bash
msdl
```

按照交互式提示进行配置:
- 选择 Agent 使用的语言（中文或英文，仅影响 Agent 的提示词语言）
- 选择模型部署类型（本地模型或云端模型）
- 选择模型格式
  - 云端模型目前只有 internlm_silicon 能够正常运行
  - 本地模型目前只有 internlm_server 通过测试，能正常运行
- 输入必要的 API 密钥（如 SILICON_API_KEY）

MSDL 将自动执行以下操作:
- 复制并配置必要的 Dockerfile 和 docker-compose.yaml 文件
- 构建 Docker 镜像
- 启动 Docker 容器

## 部署方案比较

### 云端模型部署（推荐）

**优势**:
- 轻量级部署，磁盘占用小（前端约 510MB，后端约 839MB）
- 无需高性能硬件
- 部署和维护简单
- 使用 SiliconCloud 可免费调用 internlm/internlm2_5-7b-chat 模型
- 高并发量，推理速度快

**使用说明**:
- 选择"云端模型"选项
- 选择 "internlm_silicon" 作为模型格式
- 输入 SiliconCloud API Key（需在 https://cloud.siliconflow.cn/ 注册获取）

**重要说明**:
- internlm/internlm2_5-7b-chat 模型在 SiliconCloud 上可以免费调用，但 API Key 仍需妥善保管好。
- MindSearch 项目与 SiliconCloud 并无利益关系，只是使用它能更好地体验 MindSearch 的效果，感谢 SiliconCloud 为开源社区所做的贡献。

### 本地模型部署

**特点**:
- 使用 openmmlab/lmdeploy 镜像
- 基于 PyTorch 环境
- 需要大量磁盘空间（后端容器 15GB+，模型 15GB+，总计 30GB 以上）
- 需要强大的 GPU（建议 12GB 或以上显存）

**使用说明**:
- 选择"本地模型"选项
- 选择 "internlm_server" 作为模型格式

**相关链接**:
- lmdeploy 镜像: https://hub.docker.com/r/openmmlab/lmdeploy/tags
- InternLM2.5 项目: https://huggingface.co/internlm/internlm2_5-7b-chat

## 注意事项

- 云端模型目前只有 internlm_silicon 格式能够正常运行，本地模型只有 internlm_server 格式通过测试能正常运行。
- 选择语言只会影响 Agent 的提示词语言，不会改变 React 前端的界面语言。
- 首次运行可能需要较长时间来下载必要的模型文件和 Docker 镜像。
- 使用云端模型时，请确保网络连接稳定。

## 故障排除

1. 确保 Docker 服务正在运行。
2. 检查是否有足够的磁盘空间。
3. 确保所有必要的环境变量已正确设置。
4. 检查网络连接是否正常。
5. 验证 API Key 是否有效（如使用云端模型）。

如果问题持续，请查看 MindSearch 的 GitHub 仓库中的 Issues 部分，或提交新的 Issue。

## 隐私和安全

MSDL 是纯本地执行的工具，不会上报任何 API Key 或其他敏感信息。所有配置信息存储在 `msdl/temp/.env` 文件中，仅用于简化部署过程。

## 更新 MSDL

要更新 MSDL 到最新版本，请执行以下步骤:

1. 进入 MindSearch 目录
2. 拉取最新的代码:
   ```bash
   git pull origin main
   ```
3. 重新安装 MSDL:
   ```bash
   cd docker
   pip install -e .
   ```

## 结语

如有任何问题或建议，欢迎在 GitHub 上提交 Issue 或直接联系我们。感谢您使用 MindSearch 和 MSDL！