ollama pull
#2
by
Denas
- opened
Здравствуйте,
не получается скачать модели с помощью привычного способа ollama:
ollama pull hf.co/RefalMachine/ruadapt_qwen2.5_7B_ext_u48_instruct_gguf:FP16
Полагаю, это из-за коротких имён моделей, где нет, собственно, названии модели в имени.
Нет ли возможности ввести ссылки, или ещё какой метод, чтобы можно было загружать модели в локальную библиотеку ollama?
Квантованная версия подтягивается
ollama run hf.co/RefalMachine/ruadapt_qwen2.5_7B_ext_u48_instruct_gguf:Q8_0
Вызов
ollama run hf.co/RefalMachine/ruadapt_qwen2.5_7B_ext_u48_instruct_gguf:latest
тянет модель на 15GB, так что возможно это будет как раз fp16 версия
Спасибо за инструкцию, сам бы не догадался — обычно у Ollama :latest указывает на какую-то среднюю по квантованию модель.