| from peft import PeftModel, PeftConfig | |
| from transformers import WhisperForConditionalGeneration, WhisperProcessor, pipeline | |
| # PEFT model yolunu tanımlayın | |
| peft_model_id = "/content/reach-vb/test/checkpoint-100" | |
| # PEFT konfigürasyonunu yükleyin | |
| peft_config = PeftConfig.from_pretrained(peft_model_id) | |
| # Temel modeli yükleyin | |
| model = WhisperForConditionalGeneration.from_pretrained( | |
| peft_config.base_model_name_or_path, | |
| load_in_8bit=True, | |
| device_map="auto" | |
| ) | |
| # PEFT modelini yükleyin | |
| model = PeftModel.from_pretrained(model, peft_model_id) | |
| # Önbelleği etkinleştirin | |
| model.config.use_cache = True | |
| # Whisper işlemcisini yükleyin (tokenizer yerine) | |
| processor = WhisperProcessor.from_pretrained(peft_config.base_model_name_or_path) | |
| # Pipeline'ı oluşturun | |
| pipe = pipeline("automatic-speech-recognition", model=model, tokenizer=processor.tokenizer, feature_extractor=processor.feature_extractor) |