from peft import PeftModel, PeftConfig from transformers import WhisperForConditionalGeneration, WhisperProcessor, pipeline
PEFT model yolunu tanımlayın
peft_model_id = "/content/reach-vb/test/checkpoint-100"
PEFT konfigürasyonunu yükleyin
peft_config = PeftConfig.from_pretrained(peft_model_id)
Temel modeli yükleyin
model = WhisperForConditionalGeneration.from_pretrained( peft_config.base_model_name_or_path, load_in_8bit=True, device_map="auto" )
PEFT modelini yükleyin
model = PeftModel.from_pretrained(model, peft_model_id)
Önbelleği etkinleştirin
model.config.use_cache = True
Whisper işlemcisini yükleyin (tokenizer yerine)
processor = WhisperProcessor.from_pretrained(peft_config.base_model_name_or_path)
Pipeline'ı oluşturun
pipe = pipeline("automatic-speech-recognition", model=model, tokenizer=processor.tokenizer, feature_extractor=processor.feature_extractor)