Update README.md
Browse files
README.md
CHANGED
@@ -268,7 +268,7 @@ print(response)
|
|
268 |
或者你可以使用以下命令启动兼容 OpenAI API 的服务:
|
269 |
|
270 |
```bash
|
271 |
-
lmdeploy serve api_server internlm/internlm2_5-7b-chat --server-port 23333
|
272 |
```
|
273 |
|
274 |
然后你可以向服务端发起一个聊天请求:
|
@@ -296,7 +296,7 @@ pip install vllm
|
|
296 |
```
|
297 |
|
298 |
```bash
|
299 |
-
python -m vllm.entrypoints.openai.api_server --model internlm/internlm2_5-7b-chat --trust-remote-code
|
300 |
```
|
301 |
|
302 |
然后你可以向服务端发起一个聊天请求:
|
|
|
268 |
或者你可以使用以下命令启动兼容 OpenAI API 的服务:
|
269 |
|
270 |
```bash
|
271 |
+
lmdeploy serve api_server internlm/internlm2_5-7b-chat --model-name internlm2_5-7b-chat --server-port 23333
|
272 |
```
|
273 |
|
274 |
然后你可以向服务端发起一个聊天请求:
|
|
|
296 |
```
|
297 |
|
298 |
```bash
|
299 |
+
python -m vllm.entrypoints.openai.api_server --model internlm/internlm2_5-7b-chat --served-model-name internlm2_5-7b-chat --trust-remote-code
|
300 |
```
|
301 |
|
302 |
然后你可以向服务端发起一个聊天请求:
|