germanjke commited on
Commit
e8da4c1
1 Parent(s): 7832039

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +57 -0
README.md ADDED
@@ -0,0 +1,57 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - ru
4
+ ---
5
+ # T-lite-instruct-0.1
6
+
7
+ Detailed model card’s coming soon…
8
+
9
+ ## 👨‍💻 Examples of usage
10
+
11
+
12
+ ```python
13
+ from transformers import AutoTokenizer, AutoModelForCausalLM
14
+ import torch
15
+ torch.manual_seed(42)
16
+ model_name = "t-bank-ai/T-pro-it-1.0"
17
+ tokenizer = AutoTokenizer.from_pretrained(model_name, use_auth_token=token)
18
+ model = AutoModelForCausalLM.from_pretrained(model_name, use_auth_token=token, device_map="auto")
19
+ prompt = "Напиши стих про машинное обучение"
20
+ messages = [
21
+ {"role": "system", "content": "Ты T-pro, виртуальный ассистент в Т-Технологии. Твоя задача - быть полезным диалоговым ассистентом."},
22
+ {"role": "user", "content": prompt}
23
+ ]
24
+ text = tokenizer.apply_chat_template(
25
+ messages,
26
+ tokenize=False,
27
+ add_generation_prompt=True
28
+ )
29
+ model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
30
+ generated_ids = model.generate(
31
+ **model_inputs,
32
+ max_new_tokens=256
33
+ )
34
+ generated_ids = [
35
+ output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
36
+ ]
37
+ response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
38
+ print(response)
39
+ ```
40
+
41
+ Output:
42
+ ```
43
+ В мире данных и алгоритмов, где путь просветления лежит,
44
+ Машинное обучение — как звезда, что светом знаний сияет.
45
+ Слои нейронов, как мозг огромный, в цифровой тишине дремлют,
46
+ Изучают закономерности, скрытые в числах глубоко.
47
+
48
+ Оно учится на примерах, как ребёнок, открывая мир,
49
+ На ошибках своих корректируясь, шаг за шагом к совершенству стремится.
50
+ Где раньше требовалась рука человека, теперь сеть сама решает,
51
+ Прогнозы точные строит, решения сложные принимает.
52
+
53
+ В облаках данных, как корабль, плывёт через шторм и спокойствие,
54
+ Поиск закономерностей — его цель, открыть тайны бытия.
55
+ От распознавания лиц до понимания речи,
56
+ Машинное обучение — это ключ, что открывает двери.
57
+ ```