Update README.md
Browse files
README.md
CHANGED
@@ -5,13 +5,13 @@ tags: []
|
|
5 |
|
6 |
# llm-jp-3-1.8b-My1stFineTune_in_2024
|
7 |
|
8 |
-
本モデルは、大規模言語モデルに関する勉強会LLM-jpの成果物であるllm-jp-3-1.8b
|
9 |
-
[
|
10 |
-
[
|
11 |
|
12 |
短時間でファインチューニングを終えるために、データセットから90サンプルだけ取り出してファインチューニングしています。
|
13 |
|
14 |
-
##
|
15 |
|
16 |
本リポジトリには、ベースモデルllm-jp-3-1.8bと、LoRAでファインチューニングした後のモデルの差分のみアップロードしております。したがって、ご利用頂くためには、ベースモデルと本モデルの両者をダウンロードする必要があります。トークナイザーはベースモデルのトークナイザーを使って下さい。
|
17 |
|
|
|
5 |
|
6 |
# llm-jp-3-1.8b-My1stFineTune_in_2024
|
7 |
|
8 |
+
本モデルは、大規模言語モデルに関する勉強会LLM-jpの成果物であるllm-jp-3-1.8b[1]を、同じくLLM-jpが公開しているオープンなデータセットllm-jp/databricks-dolly-15k-ja[2]を用いてファインチューニングしたモデルです。
|
9 |
+
<small>[1]: HuggingFaceにて公開されています。https://huggingface.co/llm-jp/llm-jp-3-1.8b</small>
|
10 |
+
<small>[2]: Creative Commons Attribution-ShareAlike 3.0 Unported License (CC BY-SA 3.0)として公開されており、商用利用も可能です。</small>
|
11 |
|
12 |
短時間でファインチューニングを終えるために、データセットから90サンプルだけ取り出してファインチューニングしています。
|
13 |
|
14 |
+
## 使い方の概要
|
15 |
|
16 |
本リポジトリには、ベースモデルllm-jp-3-1.8bと、LoRAでファインチューニングした後のモデルの差分のみアップロードしております。したがって、ご利用頂くためには、ベースモデルと本モデルの両者をダウンロードする必要があります。トークナイザーはベースモデルのトークナイザーを使って下さい。
|
17 |
|