|
--- |
|
license: mit |
|
datasets: |
|
- Den4ikAI/ru_sberquad_long_answers |
|
language: |
|
- ru |
|
widget: |
|
- text: '<SC6>Текст: Основными конкурентами РН Протон-М по цене и по выводимой полезной нагрузке являются американская РН Falcon 9, европейская ракета тяжёлого класса Ариан-5 компании Арианэспас и международный проект Морской старт с РН средне-тяжёлого класса Зенит. Кроме того, конкурентами по массе полезной нагрузки, выводимой на орбиту, могут считаться американские носители Атлас-5 и Дельта-4, а также японский носитель H-IIB. Тем не менее стоимость последних трёх упомянутых РН значительно превышает стоимость РН Протон-М, и поэтому они фактически не конкурируют с Протоном на рынке коммерческих запусков[145].\nВопрос: Как называется Японский носитель?\nОтвет: <extra_id_0>' |
|
pipeline_tag: text2text-generation |
|
--- |
|
# Den4ikAI/FRED-T5-LARGE_text_qa |
|
|
|
Модель обучена отвечать на вопросы с помощью текста. |
|
|
|
Wandb: [link](https://wandb.ai/den4ikai/huggingface/runs/qkzvhuxb) |
|
# Использование |
|
```python |
|
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM |
|
import torch |
|
from transformers import GenerationConfig |
|
|
|
use_cuda = torch.cuda.is_available() |
|
device = torch.device("cuda" if use_cuda else "cpu") |
|
generation_config = GenerationConfig.from_pretrained("Den4ikAI/FRED-T5-LARGE_text_qa") |
|
tokenizer = AutoTokenizer.from_pretrained("Den4ikAI/FRED-T5-LARGE_text_qa") |
|
model = AutoModelForSeq2SeqLM.from_pretrained("Den4ikAI/FRED-T5-LARGE_text_qa").to(device) |
|
model.eval() |
|
|
|
def generate(prompt): |
|
data = tokenizer(f"{prompt}", return_tensors="pt").to(model.device) |
|
output_ids = model.generate( |
|
**data, |
|
generation_config=generation_config |
|
)[0] |
|
print(tokenizer.decode(data["input_ids"][0].tolist())) |
|
out = tokenizer.decode(output_ids.tolist()) |
|
return out |
|
|
|
while 1: |
|
prompt = '''<SC6>Текст: {}\nВопрос: {}\nОтвет: <extra_id_0> |
|
'''.format(input('Текст: '), input('Вопрос: ')) |
|
print(generate(prompt)) |
|
``` |