from peft import PeftModel, PeftConfig
from transformers import WhisperForConditionalGeneration, WhisperProcessor, pipeline
# PEFT model yolunu tanımlayın
peft_model_id = "/content/reach-vb/test/checkpoint-100"
# PEFT konfigürasyonunu yükleyin
peft_config = PeftConfig.from_pretrained(peft_model_id)
# Temel modeli yükleyin
model = WhisperForConditionalGeneration.from_pretrained(
peft_config.base_model_name_or_path,
load_in_8bit=True,
device_map="auto"
)
# PEFT modelini yükleyin
model = PeftModel.from_pretrained(model, peft_model_id)
# Önbelleği etkinleştirin
model.config.use_cache = True
# Whisper işlemcisini yükleyin (tokenizer yerine)
processor = WhisperProcessor.from_pretrained(peft_config.base_model_name_or_path)
# Pipeline'ı oluşturun
pipe = pipeline("automatic-speech-recognition", model=model, tokenizer=processor.tokenizer, feature_extractor=processor.feature_extractor)
