Update README.md
Browse files
README.md
CHANGED
|
@@ -2,6 +2,48 @@
|
|
| 2 |
license: gemma
|
| 3 |
language:
|
| 4 |
- ja
|
|
|
|
| 5 |
---
|
| 6 |
|
| 7 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 2 |
license: gemma
|
| 3 |
language:
|
| 4 |
- ja
|
| 5 |
+
- en
|
| 6 |
---
|
| 7 |
|
| 8 |
+
## Datasets
|
| 9 |
+
|
| 10 |
+
TBD
|
| 11 |
+
|
| 12 |
+
## 実行方法(コンペ採点者の方向け)
|
| 13 |
+
|
| 14 |
+
### 事前準備
|
| 15 |
+
|
| 16 |
+
```
|
| 17 |
+
# lshw のインストール
|
| 18 |
+
# (ollama インストール時に GPU を検出するのに必要)
|
| 19 |
+
$ apt update && apt install -y lshw
|
| 20 |
+
|
| 21 |
+
# ollama (https://ollama.com/) のインストール & 起動
|
| 22 |
+
$ curl -fsSL https://ollama.com/install.sh | sh
|
| 23 |
+
$ ollama serve
|
| 24 |
+
|
| 25 |
+
# -- 以降別ターミナルプロセスから --
|
| 26 |
+
|
| 27 |
+
# モデルのダウンロード
|
| 28 |
+
$ MODEL_NAME="hf.co/pokutuna/llm2024-gemma2:gemma2-9b-sft005-Q6_K.gguf"
|
| 29 |
+
$ ollama pull $MODEL_NAME
|
| 30 |
+
# success と出力されるのを確認
|
| 31 |
+
#
|
| 32 |
+
# Note.
|
| 33 |
+
# 演習環境で動作を確認済みですがネットワーク状況等により、
|
| 34 |
+
# 時々 timeout (context deadline exceeded) が発生することがあります。
|
| 35 |
+
# 何度か実行すれば走り切ります。
|
| 36 |
+
|
| 37 |
+
# 実行コードの pull
|
| 38 |
+
$ git clone https://github.com/pokutuna/llm2024-competition-runner.git
|
| 39 |
+
|
| 40 |
+
# 依存ライブラリのインストール
|
| 41 |
+
$ pip install -r llm2024-competition-runner/requirements.txt
|
| 42 |
+
```
|
| 43 |
+
|
| 44 |
+
### 出力の生成
|
| 45 |
+
|
| 46 |
+
`$ python ./llm2024-competition-runner/generate.py --tasks=./tasks.jsonl --outfile=./output.jsonl`
|
| 47 |
+
|
| 48 |
+
- `--tasks=<入力タスク>` 各行に input フィールドを持つ JSONL ファイル (`elyza-tasks-100-TV_0.jsonl` と同じ構造を想定)
|
| 49 |
+
- `--outfile=<出力先>` 入力タスクに `output` キーを追加したもの
|