Text generation quality comparison

#1
by rycont - opened

Prompt:

๋‹ค์Œ์˜ ๊ธ€์€ ์„ธ๊ณ„ํ™˜๊ฒฝํ•™ํšŒ์— ๊ณ ๋ ค๋Œ€ํ•™๊ต ์ง€๊ตฌํ™˜๊ฒฝ๊ณตํ•™๊ณผ ๊น€์ˆ˜์—ฐ ๊ต์ˆ˜๊ฐ€ ํˆฌ๊ณ ํ•œ ๋…ผ๋ฌธ์˜ ์ผ๋ถ€์ด๋‹ค.
์ œ๋ชฉ: ๊ธฐํ›„์œ„๊ธฐ์™€ ์ฒ ์ƒˆ, ๊ทธ๋ฆฌ๊ณ  ์ธ๋ฅ˜์˜ ๋ฏธ๋ž˜
๋ณธ๋ฌธ:

Original model

๋ณธ ์—ฐ๊ตฌ๋Š” ์กฐ๋ฅ˜์ธํ”Œ๋ฃจ์—”์ž(AI) ๋ฐ”์ด๋Ÿฌ์Šค๊ฐ€ ์ฒ ์ƒˆ๋ฅผ ํ†ตํ•ด์„œ ์ „ ์„ธ๊ณ„๋กœ ์ „ํŒŒ๋˜๊ณ  ์žˆ๋‹ค๋Š” ์‚ฌ์‹ค์„ ๊ณ ๋ คํ•˜๋ฉด ์ฒ ์ƒˆ๋Š” ์ธ๋ฅ˜์—๊ฒŒ ๋ฐ”์ด๋Ÿฌ์Šค์™€ ๊ฐ™์€ ์กด์žฌ์ž„์„ ์ƒ๊ธฐํ•  ํ•„์š”๊ฐ€ ์žˆ๋‹ค. ์ฆ‰, ์ฒ ์ƒˆ๋Š” ์กฐ๋ฅ˜์ธํ”Œ๋ฃจ์—”์ž(AI) ๋ฐ”์ด๋Ÿฌ์Šค๊ฐ€ ๋ฐœ์ƒํ•˜๋ฉด, ์ฒ ์ƒˆ๋ฅผ ํ†ตํ•ด ์ „ ์„ธ๊ณ„๋กœ ์ „ํŒŒ๋˜๋Š” ์ „ ์„ธ๊ณ„์ ์ธ ํ˜„์ƒ์ž„์„ ๋ณด์—ฌ์ค€๋‹ค. ์ธ๋ฅ˜์˜ ๋Œ€๊ทœ๋ชจ ์ด๋™์€ ์ธ๋ฅ˜์—๊ฒŒ ๋ฐ”์ด๋Ÿฌ์Šค์™€ ๊ฐ™์€ ์กด์žฌ๊ฐ€ ๋˜๊ณ  ์žˆ๋‹ค. ์ธ๋ฅ˜์—๊ฒŒ๋Š” ์กฐ๋ฅ˜์ธํ”Œ๋ฃจ์—”์ž(AI)์™€ ๊ฐ™์€ ๋ฐ”์ด๋Ÿฌ์Šค๊ฐ€ ๋Œ€๊ทœ๋ชจ ์ด๋™์„ ์ผ์œผํ‚ค๋Š” ์กด์žฌ๋ผ๋Š” ์ ์—์„œ ์ธ๋ฅ˜์˜ ์ƒํƒœ์™€ ํ™˜๊ฒฝ์  ์œ„ํ—˜์š”์†Œ๊ฐ€ ๋˜๊ณ  ์žˆ๋‹ค. ์ธ๋ฅ˜์˜ ์ƒํƒœ์™€ ํ™˜๊ฒฝ์  ์œ„ํ—˜์š”์†Œ๊ฐ€ ๋˜๊ณ  ์žˆ๋‹ค.์ธ๋ฅ˜์—๊ฒŒ๋Š” ๋ฐ”์ด๋Ÿฌ์Šค์™€ ๊ฐ™์€ ์กด์žฌ๊ฐ€ ๋˜๊ณ  ์žˆ๋‹ค.

๋ณธ ์—ฐ๊ตฌ๋Š” ์ธ๋ฅ˜์˜ ์ƒํƒœ์™€ ํ™˜๊ฒฝ์  ์œ„ํ—˜์š”์†Œ๊ฐ€ ๋˜๊ณ  ์žˆ๋Š” ์ฒ ์ƒˆ์˜ ์œ„ํ—˜์š”์ธ์„ ๋ถ„์„ํ•˜๋ฉด์„œ, ์กฐ๋ฅ˜์ธํ”Œ๋ฃจ์—”์ž(AI)์˜ ์›์ธ์œผ๋กœ ์ฒ ์ƒˆ๋ฅผ ์ง€๋ชฉํ•˜๊ณ , ์ฒ ์ƒˆ๊ฐ€ ์ฒ ์ƒˆ๋ฅผ ํ†ตํ•ด์„œ ์ „ ์„ธ๊ณ„๋กœ ํ™•์‚ฐํ•˜๋Š” ์ƒํƒœ์  ์š”์ธ์„ ๊ฒ€ํ† ํ•˜๊ณ , ์ฒ ์ƒˆ๊ฐ€ ๋ฐ”์ด๋Ÿฌ์Šค์™€ ๊ฐ™์€ ์กด์žฌ๊ฐ€ ๋˜๋Š” ์ƒํ™ฉ์„ ์ดํ•ดํ•˜๊ณ , ์ธ๋ฅ˜์—๊ฒŒ ์ฒ ์ƒˆ์™€ ๊ฐ™์€ ์กด์žฌ๊ฐ€ ๋˜๊ณ  ์žˆ๋Š” ์ฒ ์ƒˆ๋ฅผ ๋ณดํ˜ธํ•˜๊ธฐ ์œ„ํ•œ ๋ฐฉ๋ฒ•์„ ์ œ์‹œํ•˜๊ณ ์ž ํ•œ๋‹ค. ๋ณธ ์—ฐ๊ตฌ๋Š” ์กฐ๋ฅ˜์ธํ”Œ๋ฃจ์—”์ž(AI) ๋ฐ”์ด๋Ÿฌ์Šค์˜ ๋ฐœ์ƒ๊ณผ ํ™•์‚ฐ์„ ์ฒ ์ƒˆ์™€ ๊ด€๋ จ์‹œ์ผœ ๋…ผ์˜ํ•˜๊ณ ์ž ํ•˜์˜€๋‹ค.๋ณธ ์—ฐ๊ตฌ๋Š” ์กฐ๋ฅ˜์ธํ”Œ๋ฃจ์—”์ž(AI) ๋ฐ”์ด๋Ÿฌ์Šค๊ฐ€ ์ฒ ์ƒˆ๋ฅผ ํ†ตํ•ด์„œ ์ „ ์„ธ๊ณ„๋กœ ํ™•์‚ฐ๋˜๊ณ  ์žˆ

Quantized model

์ง€๊ตฌ์˜จ๋‚œํ™”๋กœ ์ธํ•œ ๋ฉธ์ข…์œ„๊ธฐ์˜ ์‹ฌ๊ฐ์„ฑ์„ ์ ˆ๊ฐํ•˜์˜€์Œ์—๋„ ๋ถˆ๊ตฌํ•˜๊ณ , ์ธ๋ฅ˜์™€ ์ง€๊ตฌ์ƒํƒœ๊ณ„๊ฐ€ ์ฒ˜ํ•œ ์œ„๊ธฐ๋ฅผ ํŒŒ์•…ํ•ด๋ณด์ž๋ฉด, ์šฐ๋ฆฌ๋Š” ๊ธฐํ›„๋ณ€ํ™”์˜ ๊ทผ๋ณธ์ ์ธ ์œ„๊ธฐ๋ฅผ ํŒŒ์•…ํ•ด๋ณด์ž๋ฉด, ํ™˜๊ฒฝ์œ„๊ธฐ๋ฅผ ๊ทน๋ณตํ•ด๋ณด์ž๋ฉด, ์ž์—ฐํ™˜๊ฒฝํŒŒ๊ดด์˜ ์œ„๊ธฐ๋ฅผ๊ทน๋ณตํ•ด๋ณด์ž๋ฉด, ์ธ๋ฅ˜์ƒํƒœ๊ณ„์œ„๊ธฐ, ์ง€๊ตฌ์ƒํƒœ๊ณ„๋ฅผ์œ„๊ธฐ๋ฅผ ๊ทน๋ณตํ•ด๋ณด๋‹ค๋ฉด, ์ธ๋ฅ˜์ƒํƒœ๊ณ„์œ„๊ธฐ์— ๋Œ€ํ•ด ๊ณ ๋ฏผํ•ด๋ณผ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ง€๊ตฌ์ƒํƒœ๊ณ„์œ„๊ธฐ๋ฅผ๊ทน๋ณตํ•ด๋ณธ๋‹ค๋ฉด, ์ง€๊ตฌ์ƒ๋ฌผํ•™์ž์ ์œ„๊ธฐ, ์ง€๊ตฌ์ƒ๋ฌผํ•™์ž์ ์œ„๊ธฐ๋ฅผ๊ทน๋ณตํ•ด๋ณธ๋‹ค๋ฉด, ์œ„๊ธฐ์˜ ์ƒํƒœํ•™์ž์ ์œ„๊ธฐ์— ๋Œ€ํ•ด ๊ณ ๋ฏผํ•ด๋ดค์Šต๋‹ˆ๋‹ค. ์„ธ๊ณ„์ƒํƒœํ•™์ž์ ์œ„๊ธฐ๋ฅผ๊ทน๋ณตํ•ด๋ดค๏ฟฝ?์„ธ๊ณ„์ƒํƒœํ•™์ž์ ์œ„๊ธฐ์— ๋Œ€ํ•ด ๊ณ ๋ฏผํ•ด๋ดค์Šต๋‹ˆ๋‹ค.

Sign up or log in to comment