Description

This repo contains GGUF format model files for Llama-3.1-8B-ArliAI-Indo-Formax-v1.0.

Files Provided

Name	Quant	Bits	File Size	Remark
llama-3.1-8b-arliai-indo-formax-v1.0.Q2_K.gguf	Q2_K	2	3.18 GB	2.96G, +3.5199 ppl @ Llama-3-8B
llama-3.1-8b-arliai-indo-formax-v1.0.Q3_K.gguf	Q3_K	3	4.02 GB	3.74G, +0.6569 ppl @ Llama-3-8B
llama-3.1-8b-arliai-indo-formax-v1.0.Q4_0.gguf	Q4_0	4	4.66 GB	4.34G, +0.4685 ppl @ Llama-3-8B
llama-3.1-8b-arliai-indo-formax-v1.0.Q4_K.gguf	Q4_K	4	4.92 GB	4.58G, +0.1754 ppl @ Llama-3-8B
llama-3.1-8b-arliai-indo-formax-v1.0.Q5_K.gguf	Q5_K	5	5.73 GB	5.33G, +0.0569 ppl @ Llama-3-8B
llama-3.1-8b-arliai-indo-formax-v1.0.Q6_K.gguf	Q6_K	6	6.60 GB	6.14G, +0.0217 ppl @ Llama-3-8B
llama-3.1-8b-arliai-indo-formax-v1.0.Q8_0.gguf	Q8_0	8	8.54 GB	7.96G, +0.0026 ppl @ Llama-3-8B

Parameters

path	type	architecture	rope_theta	sliding_win	max_pos_embed
ArliAI/Llama-3.1-8B-ArliAI-Indo-Formax-v1.0	llama	LlamaForCausalLM	500000.0	null	131072

Original Model Card

Based on Meta-Llama-3.1-8B-Instruct, and is governed by Meta Llama 3.1 License agreement: https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct

Indonesian language continued pre-trained and Formax instruct tuned model. Excels in Bahasa Indonesia while having Formax instruct characteristics.

You can try it at https://www.arliai.com

Model Llama 3.1 yang telat di-training dengan bahasa Indonesia dan juga menggunakan dataset bergaya Formax bahasa Indonesia. Cocok untuk kebutuhan text bahasa Indonesia.

Bisa dicoba di website https://www.arliai.com/?lang=id

Training:

8192 sequence length
Training duration is around 6 days on 2x3090Ti
1 epoch training with a massive dataset.
LORA with 64-rank 128-alpha resulting in ~2% trainable weights.

Quants:

BF16: https://huggingface.co/ArliAI/Llama-3.1-8B-ArliAI-Indo-Formax-v1.0

GGUF: https://huggingface.co/ArliAI/Llama-3.1-8B-ArliAI-Indo-Formax-v1.0-GGUF

Suggested prompting strategy:

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

You are a [give it a role]. You are tasked with [give it a task]. Reply in the following format: [requested format of reply]<|eot_id|><|start_header_id|>user<|end_header_id|>

{{ user_message_1 }}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

{{ model_answer_1 }}<|eot_id|><|start_header_id|>user<|end_header_id|>

{{ user_message_2 }}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

Example prompt:

System: Anda adalah seorang penulis profesional. Anda harus membuat cerita yang memikat dan menarik untuk dibaca. Balas dengan format berikut:\n\nJudul: [Buat judul untuk cerita]\n\n Cerita: Di bawah matahari Azgul, [lanjutkan cerita]

User: Buatlah sebuah cerita untukku tentang petualangan di dunia fantasi.

Response: Judul: Pencarian Ksatria yang Hilang\n\nCerita: Di bawah matahari Azgul, tempat langit berwarna biru tua dan tanah berwarna hijau zamrud, kota El'goroth berdiri sebagai mercusuar harapan. Di jantung kota ini, di dalam tembok kastil yang megah, terdapat sebuah legenda yang telah lama terlupakan – legenda tentang Ksatria yang Hilang, seorang pahlawan yang dikatakan telah mengalahkan kegelapan itu sendiri.\n\nEira, seorang wanita muda yang memiliki rambut emas dan mata biru, tinggal di kota ini. Dia adalah seorang penyihir yang terampil, dengan kemampuan untuk berkomunikasi dengan makhluk-makhluk yang tidak diketahui. Suatu hari, saat menjelajahi hutan terdekat, dia menemukan sebuah buku kuno yang tersembunyi di balik dedaunan. Buku itu berisi petunjuk tentang Ksatria yang Hilang, dan Eira merasakan bahwa dia harus memulai pencarian untuk menemukannya.\n\nDia memulai perjalanannya, didorong oleh rasa haus akan petualangan dan keinginan untuk membuktikan dirinya. Saat dia menjelajah lebih jauh ke dalam hutan, dia bertemu dengan berbagai makhluk, beberapa di antaranya menjadi sekutu, sementara yang lain menjadi musuh. Dia bertemu dengan seekor naga yang bijaksana, yang memberinya petunjuk tentang lokasi Ksatria yang Hilang. Dia juga bertemu dengan sekelompok penyihir jahat, yang berusaha menghentikan pencariannya.\n\nMeskipun ada bahaya, Eira terus maju, didorong oleh tekadnya untuk menemukan Ksatria yang Hilang. Akhirnya, dia mencapai sebuah gua tersembunyi, tempat Ksatria yang Hilang bersembunyi. Namun, saat dia masuk ke dalam gua, dia menemukan bahwa Ksatria yang Hilang bukanlah pahlawan yang dia kira. Sebaliknya, dia adalah seorang penyihir jahat yang telah menggunakan kekuatannya untuk mengendalikan kota El'goroth.\n\nEira terkejut dan marah, tapi dia tahu dia harus bertindak cepat. Dia menggunakan kekuatannya untuk mengalahkan Ksatria yang Hilang dan menghancurkan kutukan yang telah menghantui kota selama bertahun-tahun. Setelah kejadian itu, Eira kembali ke kota, di mana dia diterima sebagai pahlawan. Dia menggunakan kekuatannya untuk melindungi kota dan masyarakatnya, dan legenda tentang Ksatria yang Hilang menjadi kisah yang mengingatkan akan bahaya kekuasaan yang tidak terkendali. Pada akhirnya, Eira menyadari bahwa pencariannya akan Ksatria yang Hilang telah mengubah hidupnya selamanya. Dia telah menemukan tujuan dan kekuatan dalam dirinya, dan dia tahu bahwa dia akan selalu berdiri sebagai penjaga kota dan masyarakatnya.

System: Your are an intelligent AI assistant that can process texts. Always reply in json formatting when possible.

User: Berikut ini adalah sebuah cerita pendek, identifikasikan semua karakter di dalamnya.\n\nJudul: Pencarian Ksatria yang Hilang\n\nCerita: Di bawah matahari Azgul, tempat langit berwarna biru tua dan tanah berwarna hijau zamrud, kota El'goroth berdiri sebagai mercusuar harapan. Di jantung kota ini, di dalam tembok kastil yang megah, terdapat sebuah legenda yang telah lama terlupakan – legenda tentang Ksatria yang Hilang, seorang pahlawan yang dikatakan telah mengalahkan kegelapan itu sendiri.\n\nEira, seorang wanita muda yang memiliki rambut emas dan mata biru, tinggal di kota ini. Dia adalah seorang penyihir yang terampil, dengan kemampuan untuk berkomunikasi dengan makhluk-makhluk yang tidak diketahui. Suatu hari, saat menjelajahi hutan terdekat, dia menemukan sebuah buku kuno yang tersembunyi di balik dedaunan. Buku itu berisi petunjuk tentang Ksatria yang Hilang, dan Eira merasakan bahwa dia harus memulai pencarian untuk menemukannya.\n\nDia memulai perjalanannya, didorong oleh rasa haus akan petualangan dan keinginan untuk membuktikan dirinya. Saat dia menjelajah lebih jauh ke dalam hutan, dia bertemu dengan berbagai makhluk, beberapa di antaranya menjadi sekutu, sementara yang lain menjadi musuh. Dia bertemu dengan seekor naga yang bijaksana, yang memberinya petunjuk tentang lokasi Ksatria yang Hilang. Dia juga bertemu dengan sekelompok penyihir jahat, yang berusaha menghentikan pencariannya.\n\nMeskipun ada bahaya, Eira terus maju, didorong oleh tekadnya untuk menemukan Ksatria yang Hilang. Akhirnya, dia mencapai sebuah gua tersembunyi, tempat Ksatria yang Hilang bersembunyi. Namun, saat dia masuk ke dalam gua, dia menemukan bahwa Ksatria yang Hilang bukanlah pahlawan yang dia kira. Sebaliknya, dia adalah seorang penyihir jahat yang telah menggunakan kekuatannya untuk mengendalikan kota El'goroth.\n\nEira terkejut dan marah, tapi dia tahu dia harus bertindak cepat. Dia menggunakan kekuatannya untuk mengalahkan Ksatria yang Hilang dan menghancurkan kutukan yang telah menghantui kota selama bertahun-tahun. Setelah kejadian itu, Eira kembali ke kota, di mana dia diterima sebagai pahlawan. Dia menggunakan kekuatannya untuk melindungi kota dan masyarakatnya, dan legenda tentang Ksatria yang Hilang menjadi kisah yang mengingatkan akan bahaya kekuasaan yang tidak terkendali. Pada akhirnya, Eira menyadari bahwa pencariannya akan Ksatria yang Hilang telah mengubah hidupnya selamanya. Dia telah menemukan tujuan dan kekuatan dalam dirinya, dan dia tahu bahwa dia akan selalu berdiri sebagai penjaga kota dan masyarakatnya.

Response: {\n  \"karakter\": [\n    {\n      \"nama\": \"Eira\",\n      \"deskripsi\": \"Seorang wanita muda dengan rambut emas dan mata biru, seorang penyihir yang terampil yang dapat berkomunikasi dengan makhluk-makhluk yang tidak diketahui.\"\n    },\n    {\n      \"nama\": \"Ksatria yang Hilang\",\n      \"deskripsi\": \"Seorang penyihir jahat yang telah menggunakan kekuatannya untuk mengendalikan kota El'goroth.\"\n    },\n    {\n      \"nama\": \"Naga yang Bijaksana\",\n      \"deskripsi\": \"Seekor naga yang memberikan petunjuk kepada Eira tentang lokasi Ksatria yang Hilang.\"\n    },\n    {\n      \"nama\": \"Penyihir Jahat\",\n      \"deskripsi\": \"Sekelompok penyihir yang berusaha menghentikan pencarian Eira.\"\n    }\n  ]\n}