Generation method
#2
by
horosin
- opened
Hey, how was the set of instructions generated? I am thinking about generating more and for different languages. What prompts did you use? Thanks
I've used the following prompt template (saved in prompt.txt file) with 175 seed tasks:
Wygeneruj zestaw 20 r贸偶norodnych instrukcji do zada艅. Instrukcje b臋d膮 przekazane modelowi j臋zykowemu, a my ocenimy model za ich wykonanie.
Wymagania:
1. Staraj si臋 nie powtarza膰 czasownika dla ka偶dej instrukcji, aby zmaksymalizowa膰 r贸偶norodno艣膰.
2. J臋zyk u偶yty w instrukcji r贸wnie偶 powinien by膰 zr贸偶nicowany. Na przyk艂ad powiniene艣 艂膮czy膰 pytania z instrukcjami imperatywnymi.
3. Typ instrukcji powinien by膰 zr贸偶nicowany. Na li艣cie powinny znale藕膰 si臋 r贸偶ne typy zada艅, np. generowanie otwarte, klasyfikacja, redagowanie, podsumowanie, streszczenie itp.
4. Model j臋zyka GPT powinien by膰 w stanie wykona膰 instrukcj臋 w formie j臋zykowej. Wynikiem zawsze powinien by膰 tekst.
5. Instrukcje powinny by膰 tylko w j臋zyku polskim.
6. Instrukcje powinny mie膰 d艂ugo艣膰 od 1 do 2 zda艅. Dozwolone jest albo zdanie imperatywne, albo pytanie.
7. Wygeneruj odpowiednie pole dla instrukcji ("Instruction:"). Pole to powinno zawiera膰 konkretny przyk艂ad przewidziany dla danej instrukcji. Powinno dotyczy膰 realistycznych danych i nie powinno zawiera膰 prostych placeholder贸w. Wej艣cie powinno zawiera膰 tre艣ci merytoryczne, aby instrukcja stanowi艂a wyzwanie, ale najlepiej, aby nie przekracza艂o 100 s艂贸w.
8. Nie wszystkie instrukcje wymagaj膮 danych wej艣ciowych. Na przyk艂ad, gdy instrukcja pyta o jakie艣 og贸lne informacje, "Jaki jest najwy偶szy szczyt na 艣wiecie?", nie jest konieczne podawanie konkretnego kontekstu. W takim przypadku w polu "Input:" danych umieszczamy "<noinput>".
9. Dane wyj艣ciowe ("Output:") powinny by膰 odpowiedzi膮 na instrukcj臋 i dane wej艣ciowe. Upewnij si臋, 偶e wyj艣cie jest mniejsze ni偶 100 s艂贸w.
Lista 20 zada艅:
And here is my python code to generate final prompt for the model:
def encode_prompt(prompt_instructions):
"""Encode multiple prompt instructions into a single string."""
prompt = open("./prompt.txt").read() + "\n"
for idx, task_dict in enumerate(prompt_instructions):
(instruction, input, output) = task_dict["instruction"], task_dict["input"], task_dict["output"]
instruction = re.sub(r"\s+", " ", instruction).strip().rstrip(":")
input = "<noinput>" if input.lower() == "" else input
prompt += f"###\n"
prompt += f"{idx + 1}. Instruction: {instruction}\n"
prompt += f"{idx + 1}. Input:\n{input}\n"
prompt += f"{idx + 1}. Output:\n{output}\n"
prompt += f"###\n"
prompt += f"{idx + 2}. Instruction:"
return prompt