totetecdev's picture
Update README.md
49c560b verified
|
raw
history blame
921 Bytes

from peft import PeftModel, PeftConfig from transformers import WhisperForConditionalGeneration, WhisperProcessor, pipeline

PEFT model yolunu tanımlayın

peft_model_id = "/content/reach-vb/test/checkpoint-100"

PEFT konfigürasyonunu yükleyin

peft_config = PeftConfig.from_pretrained(peft_model_id)

Temel modeli yükleyin

model = WhisperForConditionalGeneration.from_pretrained( peft_config.base_model_name_or_path, load_in_8bit=True, device_map="auto" )

PEFT modelini yükleyin

model = PeftModel.from_pretrained(model, peft_model_id)

Önbelleği etkinleştirin

model.config.use_cache = True

Whisper işlemcisini yükleyin (tokenizer yerine)

processor = WhisperProcessor.from_pretrained(peft_config.base_model_name_or_path)

Pipeline'ı oluşturun

pipe = pipeline("automatic-speech-recognition", model=model, tokenizer=processor.tokenizer, feature_extractor=processor.feature_extractor)