|
--- |
|
base_model: llm-jp/llm-jp-3-13b |
|
tags: |
|
- text-generation-inference |
|
- transformers |
|
- unsloth |
|
- llama |
|
- trl |
|
license: cc-by-nc-sa-2.0 |
|
language: |
|
- ja |
|
--- |
|
|
|
# Uploaded model |
|
|
|
- **Developed by:** MMMio |
|
- **License:** apache-2.0 |
|
- **Finetuned from model :** llm-jp/llm-jp-3-13b |
|
|
|
This llama model was trained 2x faster with [Unsloth](https://github.com/unslothai/unsloth) and Huggingface's TRL library. |
|
|
|
[<img src="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20made%20with%20love.png" width="200"/>](https://github.com/unslothai/unsloth) |
|
|
|
# README |
|
## モデル概要 |
|
本モデルは、日本語事前学習済みモデル [llm-jp/llm-jp-3-13b](https://huggingface.co/llm-jp/llm-jp-3-13b)に、[ichikara-instruction: LLMのための日本語インストラクションデータ](https://liat-aip.sakura.ne.jp/wp/llm%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AE%E6%97%A5%E6%9C%AC%E8%AA%9E%E3%82%A4%E3%83%B3%E3%82%B9%E3%83%88%E3%83%A9%E3%82%AF%E3%82%B7%E3%83%A7%E3%83%B3%E3%83%87%E3%83%BC%E3%82%BF%E4%BD%9C%E6%88%90/)を用いて Fine-Tuning したモデルである。 |
|
|
|
## ライセンス |
|
本モデルは、[CC-BY-NC-SA](https://creativecommons.org/licenses/by-nc-sa/4.0/) ライセンスの下で公開されています。 |
|
|
|
# LLMでの出力方法 |
|
## 1. 学習方法 |
|
サンプルコードを使用してFine-Tuningをおこなった。学習データも同様 |
|
## 2. 推論方法 |
|
T4 GPU環境で、同じくサンプルコード (unsloth) を使用して推論。 |
