YAML Metadata Warning: empty or missing yaml metadata in repo card (https://huggingface.co/docs/hub/model-cards#model-card-metadata)

Usage

from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer, GenerationConfig

model = AutoModelForCausalLM.from_pretrained(
    "tiiuae/falcon-7b",
    load_in_8bit=True,
    trust_remote_code=True,
)

tokenizer = AutoTokenizer.from_pretrained(
    "tiiuae/falcon-7b",
)

model = PeftModel.from_pretrained(model, "/content/drive/MyDrive/ML/falcon/lora-falcao")

Data From https://huggingface.co/22h/cabrita-lora-v0-1

Example outputs Stanford Alpaca:

Instruction: Invente uma desculpa criativa pra dizer que não preciso ir à festa. Response: Eu preciso se concentrar em trabalho importante para mim, por isso eu não posso ir à festa.

Falcon PT:

Instrução: Invente uma desculpa criativa pra dizer que não preciso ir à festa. Resposta: "Eu preciso ficar em casa para cuidar dos meus animais de estimação."

Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model is not currently available via any of the supported Inference Providers.
The model cannot be deployed to the HF Inference API: The model has no library tag.