Update README.md

README.md

@@ -32,17 +32,13 @@ Jupyter Notebookで，一かたまりごとに一つのセルになっていま
 
 import time
 import torch
-#import pandas as pd
-#import polars as pl
 import transformers
 from transformers import (
     AutoTokenizer,
     AutoModelForCausalLM,
-    #GemmaTokenizerFast,
-    #AutoModelForSequenceClassification,
     BitsAndBytesConfig
 )
-import vllm ### packaging==24.1にしないとエラーになる！！ ###
+import vllm 
 from vllm.lora.request import LoRARequest
 from jinja2 import Template
 print(vllm.__version__)
@@ -57,7 +53,7 @@ os.environ["HF_TOKEN"] = "あなたのHugging Faceトークン"
 from vllm.lora.request import LoRARequest
 llm = vllm.LLM(
     MODEL_NAME, 
-    tensor_parallel_size=1, # 2, 4
+    tensor_parallel_size=1, 
     gpu_memory_utilization=0.95,
     trust_remote_code=True,
     enforce_eager=True,
@@ -78,11 +74,8 @@ from huggingface_hub import snapshot_download
 lora_path = snapshot_download(repo_id="OsakanaTeishoku/1204lora")
 
 from datasets import load_dataset
-# jsonlファイルのパスを指定します。
-data_files = {"test": "elyza-tasks-100-TV_0.jsonl"}  # "your_jsonl_file.jsonl" を実際のファイル名に置き換えてください
-# load_dataset関数を使用してデータを読み込みます。
+data_files = {"test": "elyza-tasks-100-TV_0.jsonl"}  
 tasks = load_dataset("json", data_files=data_files, split="test")
-# データセットを確認します。
 
 messages_list = [
     [{"role": "user", "content": tasks["input"][i]}] for i in range(len(tasks))
@@ -117,6 +110,8 @@ with open(file_path_with_unicode, 'w', encoding='utf-8') as file:
         file.write('\n')
 print(f"Saved json {file_path_with_unicode} !")
 ```
+# Change log
+- 2024/12/26: 推論コードの余分なコメント部分の削除
 
 # Uploaded  model