File size: 3,115 Bytes
e8da4c1
 
 
 
e7f6e85
 
de5e334
e7f6e85
 
 
e899a16
e7f6e85
 
 
 
 
 
 
 
e8da4c1
 
 
 
 
 
 
 
 
 
e7f6e85
c75c91b
3bdc95b
e7f6e85
 
 
 
 
 
e8da4c1
 
e899a16
e8da4c1
 
 
 
 
 
 
 
e7f6e85
e8da4c1
 
 
 
 
 
 
e7f6e85
e8da4c1
e7f6e85
e8da4c1
 
 
 
 
4ccb997
 
 
 
 
 
 
 
 
 
 
 
 
 
e8da4c1
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
---
language:
- ru
---
# T-pro-it-1.0

**🚨 T-pro is designed for further fine-tuning and is not intended as a ready-to-use conversational assistant. Users are advised to exercise caution and are responsible for any additional training and oversight required to ensure the model's responses meet acceptable ethical and safety standards. The responsibility for incorporating this model into industrial or commercial solutions lies entirely with those who choose to deploy it.**

## Description

T-pro-it-1.0 was trained in bf16. 

Detailed model card’s coming soon…

### 📚 Dataset

Detailed model card’s coming soon…

## 📊 Benchmarks

Detailed model card’s coming soon…

## 👨‍💻 Examples of usage


```python
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
torch.manual_seed(42)

model_name = "t-tech/T-pro-it-1.0"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name, 
    torch_dtype="auto",
    device_map="auto",
)

prompt = "Напиши стих про машинное обучение"
messages = [
    {"role": "system", "content": "Ты T-pro, виртуальный ассистент в Т-Технологии. Твоя задача - быть полезным диалоговым ассистентом."},
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=256
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

print(response)
```

Output:
```
В мире данных и алгоритмов, где путь просветления лежит,  
Машинное обучение — как звезда, что светом знаний сияет.  
Слои нейронов, как мозг огромный, в цифровой тишине дремлют,  
Изучают закономерности, скрытые в числах глубоко.

Оно учится на примерах, как ребёнок, открывая мир,  
На ошибках своих корректируясь, шаг за шагом к совершенству стремится.  
Где раньше требовалась рука человека, теперь сеть сама решает,  
Прогнозы точные строит, решения сложные принимает.

В облаках данных, как корабль, плывёт через шторм и спокойствие,  
Поиск закономерностей — его цель, открыть тайны бытия.  
От распознавания лиц до понимания речи,  
Машинное обучение — это ключ, что открывает двери.
```