Upload tokenizer

tokenizer_config.json

@@ -28,6 +28,7 @@
     }
   },
   "bos_token": "<s>",
+  "chat_template": "\n\n{%- if messages['system_prompt'] == '' %}\n    {%- set system_prompt = \"आपण एक मदतगार, आदरणीय आणि प्रामाणिक सहाय्यक आहात.नेहमी शक्य तितकी उपयुक्त उत्तर द्या. तुमची उत्तरे हानिकारक, अनैतिक, वर्णद्वेषी, लैंगिकतावादी, हानिकारक, धोकादायक किंवा बेकायदेशीर नसावीत. कृपया खात्री करा की तुमची उत्तरे सामाजिक दृष्टिकोनाने निष्पक्ष आणि सकारात्मक स्वरूपाची आहेत. जर एखाद्या प्रश्नाला काही अर्थ नसेल किंवा वस्तुस्थितीशी सुसंगती नसेल, तर उत्तर देण्याऐवजी काहीतरी बरोबर का नाही हे स्पष्ट करा. तुम्हाला एखाद्या प्रश्नाचे उत्तर माहित नसल्यास, कृपया चुकीची माहिती देऊ नये.\" %}    \n{% else %}\n    {%- set system_prompt = messages['system_prompt'] %}\n{% endif %}\n\n{% if messages['inputs'] != '' %}\n    {{- system_prompt + \"\n\n### Instruction:\n\" + messages['instruction'] + \"\n\n### Input:\n\" + messages['inputs'] + \"\n\n### Response:\" -}}\n{% elif messages['inputs'] == '' %}\n    {{- system_prompt + \"\n\n### Instruction:\n\" + messages['instruction'] + \"\n\n### Response:\" -}}\n{% endif %}\n",
   "clean_up_tokenization_spaces": false,
   "eos_token": "</s>",
   "legacy": true,