Уходит в безостановочную генерацию с повторениями
Открываю в gpt4all.
После первого запроса сеть начинает либо разговаривать сама с собой от лица пользователя и себя, либо в бесконечном цикле выводить ссылки и прочие тренировочные диалоговые материалы, причём очень невысокого качества по содержанию (например содержащие эмоциональный капслок)
На русскоязычное приветствие периодически отвечает на английском.
Совсем не дружит с арифметикой, выдаёт дробное число в ответе.
При перечислении списка 10 известных русских сказок перечисляет 9. Не уверен что часть из них существует.
При смене параметра пенальти (число не помню) стала просто повторять задаваемые вопросы.
Здравствуйте, то что вы описали похоже на ожидаемое поведение от этой модели. Pre-train модели без какого-либо файнтюнинга всего-лишь пытаются продолжить введенный промпт. Рекомендую обратить внимание на "-instruct" или "-chat" модели для выполнения запросов, а также на что-то более современное. Например на эту - https://huggingface.co/Vikhrmodels/it-5.4-fp16-orpo-v2-GGUF