KoT5 Quote Generator (KoT5-quoter_v1)

인공지능사관학교 수업에서 저희 팀(좋은말씀전하러왔습니다)이 수행중인 미니프로젝트입니다.
프로젝트 주제인 ai명언생성기를 만들기 위해 한국어 키워드를 입력하면 명언을 만들어주는 형식으로 KoT5를 파인튜닝해보았습니다.

Quickstart

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

model_name = "Jongha611/KoT5-quoter_v1"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSeq2SeqLM.from_pretrained(model_name)

prompt = "명언 생성: 사랑"

inputs = tokenizer(prompt, return_tensors = "pt")
# 테
outputs = model.generate(
    **inputs,
    do_sample = True,
    top_p = 0.92,
    temperature = 0.8,
    no_repeat_ngram_size = 2,
    num_return_sequences = 1,
    max_new_tokens = 48,
    eos_token_id = tokenizer.eos_token_id,
    pad_token_id = tokenizer.pad_token_id,
)

text = tokenizer.decode(outputs[0], skip_special_tokens = True)

print(text)