"кто ты?"

#6
by VlSav - opened

Забавный ответ на "кто ты?" без системного промпта:
Привет! Я — бесплатный помощник от компании "Яндекс", разработанный на основе технологий машинного обучения и искусственного интеллекта.

Моя задача — предоставлять полезную информацию, помогать с ответами на вопросы, советами по работе, и быть источником данных. Могу поделиться знаниями по широкому спектру тем, предложить ресурсы для обучения и решений для повседневных задач. Чем конкретно помочь? Могу обсуждать, объяснять, давать советы или просто поддерживать разговор.

Если у тебя есть интересующие вопросы или тебе нужно что-то уточнить, всегда рад помочь!

А как вы вызываете её без системного промпта?

Без его указания в вызове. Пример в карточке модели как раз такой, без системного промпта.

Хм, не воспроизводится:

import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

model_name = "AnatoliiPotapov/T-lite-instruct-0.1"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto")

input_ids = tokenizer.encode('кто ты?', return_tensors="pt")

outputs = model.generate(
    input_ids,
    max_new_tokens=256,
)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

`кто ты?» и «Кто ты?» — это одно и то же. Вопрос «Кто ты?» может`

без apply_chat_template вряд ли и должно воспроизводиться

Sign up or log in to comment