---
tags:
 - merge
 - mergekit
 - lazymergekit
 - sh2orc
 - bccard

base_model:
 - sh2orc/Llama-3-Korean-8B
---

# Llama-3-Korean-12B

Llama-3-Korean-12B is a merge of the following models using LazyMergekit:
* [sh2orc/Llama-3-Korean-8B](sh2orc/Llama-3-Korean-8B)

- Dataset:
  - [maywell/ko_wikidata_QA](https://huggingface.co/datasets/maywell/ko_wikidata_QA)
  - [lcw99/wikipedia-korean-20240501-1million-qna](https://huggingface.co/datasets/lcw99/wikipedia-korean-20240501-1million-qna)
  - [inswave/AISquare_Koalpaca_Orca_merged](https://huggingface.co/datasets/inswave/AISquare_Koalpaca_Orca_merged)
  - [inswave/AISqaure_Intergrated_v1](https://huggingface.co/datasets/inswave/AISqaure_Intergrated_v1)

## 💻 Usage

```python
!pip install -qU transformers accelerate

from transformers import AutoTokenizer
import transformers
import torch

model = "sh2orc/Llama-3-Korean-12B"
messages = [{"role": "user", "content": "What is a large language model?"}]

tokenizer = AutoTokenizer.from_pretrained(model)
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
pipeline = transformers.pipeline(
    "text-generation",
    model=model,
    torch_dtype=torch.float16,
    device_map="auto",
)

outputs = pipeline(prompt, max_new_tokens=256, do_sample=True, temperature=0.7, top_k=50, top_p=0.95)
print(outputs[0]["generated_text"])
```

## Q&A

**Q. 2차 세계대전에 대해서 알려줘** <br>
A. 2차 세계대전은 1939년부터 1945년까지 벌어진 대규모 전쟁으로, 유럽과 아시아에서 여러 나라들이 참여했습니다. 이 전쟁은 제1차 세계대전을 시작으로 한 20세기 최악의 전쟁 중 하나였습니다. 전쟁은 독일과 이탈리아가 폴란드를 침공하면서 시작되었고, 이후 소련이 독일에 맞서기 위해 참전하면서 유럽 전선이 형성되었습니다. 전쟁은 1941년 6월 22일 독일이 소련을 침공하면서 시작되었고, 1945년 5월 8일 독일이 연합군에 항복하면서 종료되었습니다. 전쟁은 1945년 8월 15일 일본 제국이 연합군에 항복하면서 종결되었습니다. 이 전쟁은 2차 세계대전으로 알려져 있으며, 2차 세계대전으로 알려져 있습니다.

**Q. 나이가 들면 무엇을 먼저 고민해야해?** <br>
A. 나이가 들면 여러 가지 문제가 발생할 수 있지만, 가장 중요한 것은 건강을 유지하는 것입니다. 따라서 운동과 균형 잡힌 식습관을 유지하는 것이 중요합니다. 또한, 젊을 때는 젊음을 자랑했지만 나이가 들면 친구와 가족과의 관계가 더 중요해집니다. 이러한 이유로, 나이가 들면서도 건강한 삶을 유지하고, 소중한 사람들과 함께 시간을 보내는 것이 좋습니다.