totetecdev's picture
Update README.md
7141b4e verified
|
raw
history blame
936 Bytes

from peft import PeftModel, PeftConfig
from transformers import WhisperForConditionalGeneration, WhisperProcessor, pipeline

# PEFT model yolunu tanımlayın
peft_model_id = "totetecdev/whisper-large-v2-uzbek-100steps"

# PEFT konfigürasyonunu yükleyin
peft_config = PeftConfig.from_pretrained(peft_model_id)

# Temel modeli yükleyin
model = WhisperForConditionalGeneration.from_pretrained(
    peft_config.base_model_name_or_path, 
    load_in_8bit=True, 
    device_map="auto"
)

# PEFT modelini yükleyin
model = PeftModel.from_pretrained(model, peft_model_id)

# Önbelleği etkinleştirin
model.config.use_cache = True

# Whisper işlemcisini yükleyin (tokenizer yerine)
processor = WhisperProcessor.from_pretrained(peft_config.base_model_name_or_path)

# Pipeline'ı oluşturun
pipe = pipeline("automatic-speech-recognition", model=model, tokenizer=processor.tokenizer, feature_extractor=processor.feature_extractor)