---
license: gemma
language:
- ja
- en
---

## Datasets

TBD

## 実行方法(コンペ採点者の方向け)

### 事前準備

```
# lshw のインストール
# (ollama インストール時に GPU を検出するのに必要)
$ apt update && apt install -y lshw

# ollama (https://ollama.com/) のインストール & 起動
$ curl -fsSL https://ollama.com/install.sh | sh
$ ollama serve

# -- 以降別ターミナルプロセスから --

# モデルのダウンロード
$ MODEL_NAME="hf.co/pokutuna/llm2024-gemma2:gemma2-9b-sft005-Q6_K.gguf"
$ ollama pull $MODEL_NAME
# success と出力されるのを確認
#
# Note.
#   演習環境で動作を確認済みですがネットワーク状況等により、
#   時々 timeout (context deadline exceeded) が発生することがあります。
#   何度か実行すれば走り切ります。

# 実行コードの pull
$ git clone https://github.com/pokutuna/llm2024-competition-runner.git

# 依存ライブラリのインストール
$ pip install -r llm2024-competition-runner/requirements.txt
```

### 出力の生成

`$ python ./llm2024-competition-runner/generate.py --tasks=./tasks.jsonl --outfile=./output.jsonl`

- `--tasks=<入力タスク>` 各行に input フィールドを持つ JSONL ファイル (`elyza-tasks-100-TV_0.jsonl` と同じ構造を想定)
- `--outfile=<出力先>` 入力タスクに `output` キーを追加したもの