Респект и спасибо за труды!
Просто для обратной связи)
Плюсую.
Хотя, конечно, при экстремальных параметрах температуры, top_p и пр. на выходе получается текст с кучей грамматических ошибок и с несогласованностью (тем не менее, логика рассуждения от этого не теряется) - улавливаются нотки английской грамматики. Но эти недостатки вызваны техническими ограничениями тюнинга, насколько я понял. Модель, обученная такими же методами, что и модели на английском, но с нуля, работала бы намного лучше. Однако, это уже задача намного более сложная и серьёзная, которую автор вроде б не ставил.
По моим наблюдениям, модель неплохо отвечает на вопросы техническим формальным языком, но начинает грубо косячить при любой попытке выйти за формальные рамки (имитация живого диалога, написание художественного текста). Лучшие результаты тоже были при низкой температуре (буквально 0.2), но там и язык канцелярский. Тем не менее, разница с базовой моделью в плане владения русским языком огромная!
Спасибо, мне приятно :)