GGUF
Inference Endpoints
conversational

關於taide/Llama3-TAIDE-LX-8B-Chat-Alpha1-4bit 微調

#5
by RyanLee1229 - opened

我想要用我的資料去微調此模型,請問有任何方法可以微調嗎? 或是有什麼限制所在? 謝謝!

TAIDE org

您好,

請參考連結的範例:
https://github.com/ggerganov/llama.cpp/tree/master/examples/finetune

Best Regards.

請問這是針對llama 2 去做微調對吧?

TAIDE org

您好,

那個是 README,例如以下範例是 finetune llama-3
https://github.com/ggerganov/llama.cpp/discussions/7528 (此 issue 已 fix)

有支持哪些模型的微調,請參考官網說明:https://github.com/ggerganov/llama.cpp

Best Regards.

Sign up or log in to comment