--- base_model: google/gemma-2-9b tags: - text-generation-inference - transformers - unsloth - gemma2 - trl license: apache-2.0 language: - ja datasets: - llm-jp/magpie-sft-v1.0 - Aratako/Magpie-Tanuki-8B-annotated-96k --- # Uploaded model - **Developed by:** Chrom256 - **License:** apache-2.0 - **Finetuned from model :** google/gemma-2-9b This gemma2 model was trained 2x faster with [Unsloth](https://github.com/unslothai/unsloth) and Huggingface's TRL library. [](https://github.com/unslothai/unsloth) ## 概要 GoogleのGemma-2-9bをベースに、LoRAを使用して最適化した日本語対応モデルです。 本モデルはコンペ提出用のものであり、その他の用途での使用を禁止します。 ## 訓練データ 以下のデータセットを用いてInstruction-tuningを実施しました： - [llm-jp/magpie-sft-v1.0](https://huggingface.co/datasets/llm-jp/magpie-sft-v1.0) (Apache License 2.0) - [Aratako/Magpie-Tanuki-8B-annotated-96k](https://huggingface.co/datasets/Aratako/Magpie-Tanuki-8B-annotated-96k) (Apache License 2.0) これらのデータセットから、品質と多様性を確保するためにサンプリングを行いました。 ## 使用方法(評価者の方へ) このモデルは、以下のGoogle Colabノートブックで実行できます [Google Colabで実行](https://colab.research.google.com/drive/10MWpy05Xw7UT5ySM2QpOdb2aKqwRjj8m?usp=sharing) 上記リンクから、Google Colabでの実行をお願いします。 ノートブックには、必要なセットアップと推論用のコードが全て含まれています。 L4でのコード実行時間は全体で45分ほどでした。メモリが不足する事はありませんでした。 出力物はoutputファイルの中に出力されます。実行環境の通信環境によっては出力されたOutput.jsonlファイルが見えないことがありますが、ファイルタブ内での再読み込み等により確実に出力される事を複数回の検証により確認しています。 ## ライセンス このモデルはApache 2.0ライセンスの下で公開されており、訓練データのライセンスと互換性があります。 しかし、本モデルはコンペ提出用のものであり、その他の用途での使用を禁止します。 以下にGoogle Colabノートブックと同じコードを掲載します ```python !pip install -q transformers==4.46.3 accelerate bitsandbytes !pip install -q tqdm !pip install flash-attn --no-build-isolation import os import torch import json from tqdm import tqdm from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig from torch.cuda.amp import autocast from concurrent.futures import ThreadPoolExecutor import threading print("【重要】以下の手順でHugging Faceトークンを設定しておいてください") print("1. 左メニューの'シークレット'タブを開く") print("2. '新しいシークレット'をクリック") print("3. 名前に'HF_TOKEN'を入力") print("4. 値にHugging Faceトークンを入力して保存") print("ファイルタブ内にelyza-tasks-100-TV_0.jsonlを配置しておいてください") print("出力物は、新規に作成されるOutputファイルの中に格納されます") # シークレットからHF_TOKENを取得 from google.colab import userdata HF_TOKEN = userdata.get('HF_TOKEN') if HF_TOKEN is None: raise ValueError("HF_TOKENが設定されていません。上記の手順でトークンを設定してください。") quantization_config = BitsAndBytesConfig( load_in_4bit=True, bnb_4bit_quant_type="nf4", bnb_4bit_use_double_quant=True, bnb_4bit_compute_dtype=torch.bfloat16 ) def load_model_and_tokenizer(): model_id = "Chrom256/gemma-2-9b-it-lora_20241216_033631" base_model_id = "google/gemma-2-9b" downloaded_components = {"model": None, "tokenizer": None} download_lock = threading.Lock() def download_base_model(): quantization_config = BitsAndBytesConfig( load_in_4bit=True, bnb_4bit_quant_type="nf4", bnb_4bit_use_double_quant=True, bnb_4bit_compute_dtype=torch.bfloat16 ) model = AutoModelForCausalLM.from_pretrained( base_model_id, quantization_config=quantization_config, device_map="auto", trust_remote_code=True, torch_dtype=torch.bfloat16, attn_implementation="eager", low_cpu_mem_usage=True, token=HF_TOKEN ) with download_lock: downloaded_components["model"] = model def download_tokenizer(): tokenizer = AutoTokenizer.from_pretrained( model_id, trust_remote_code=True, token=HF_TOKEN ) with download_lock: downloaded_components["tokenizer"] = tokenizer torch.cuda.empty_cache() # ThreadPoolExecutorを使用して並列ダウンロード with ThreadPoolExecutor(max_workers=2) as executor: model_future = executor.submit(download_base_model) tokenizer_future = executor.submit(download_tokenizer) model_future.result() tokenizer_future.result() model = downloaded_components["model"] tokenizer = downloaded_components["tokenizer"] torch.cuda.empty_cache() try: adapter_path = model_id print(f"Loading adapter from {adapter_path}") model.load_adapter(adapter_path, "default", token=HF_TOKEN) print("Adapter loaded successfully") except Exception as e: print(f"Error loading adapter: {e}") raise model.config.use_cache = True model.eval() torch.cuda.empty_cache() return model, tokenizer def run_inference(model, tokenizer, tokenized_inputs, generation_config, batch_size=4): results = [] for i in tqdm(range(0, len(tokenized_inputs), batch_size)): batch = tokenized_inputs[i:i+batch_size] prompts = [ f"""system 簡潔に回答してください。装飾や特殊記号は使用しないでください。 user {item["input"]} model """ for item in batch ] inputs = tokenizer( prompts, padding=True, truncation=True, return_tensors="pt" ).to(model.device) with torch.no_grad(), autocast(dtype=torch.bfloat16): outputs = model.generate( **inputs, pad_token_id=tokenizer.pad_token_id, eos_token_id=tokenizer.eos_token_id, **generation_config ) for idx, output in enumerate(outputs): response = tokenizer.decode(output, skip_special_tokens=True) if 'model\n' in response: response = response.split('model\n')[-1].strip() elif 'model' in response: response = response.split('model')[-1].strip() response = post_process_output(response) results.append({ "task_id": batch[idx]["task_id"], "input": batch[idx]["input"], "output": response }) del outputs, inputs torch.cuda.empty_cache() return results def post_process_output(response): response = response.strip() symbols_to_replace = ['**', '`', '|', '```', '---', '==='] for symbol in symbols_to_replace: response = response.replace(symbol, ' ') return ' '.join(response.split()) GENERATION_CONFIG = { "max_new_tokens": 512, "use_cache": True, "do_sample": False, "num_beams": 4, "repetition_penalty": 1.2, "length_penalty": 1.0, "early_stopping": False } def load_input_data(file_path): tokenized_inputs = [] with open(file_path, "r") as f: for line in f: if line.strip(): dt = json.loads(line) tokenized_inputs.append({ "task_id": dt["task_id"], "input": dt["input"] }) return tokenized_inputs def save_results(results, output_dir): os.makedirs(output_dir, exist_ok=True) jsonl_path = os.path.join(output_dir, "Output.jsonl") with open(jsonl_path, 'w', encoding='utf-8') as f: for item in results: json.dump(item, f, ensure_ascii=False) f.write('\n') print(f"Saved results to: {jsonl_path}") def main(): model, tokenizer = load_model_and_tokenizer() tokenized_inputs = load_input_data("/content/elyza-tasks-100-TV_0.jsonl") results = run_inference(model, tokenizer, tokenized_inputs, GENERATION_CONFIG) save_results(results, "output") if __name__ == "__main__": main() ```