๊ณต๋ชจ์ ์ต์ฐ์์(1๋ฑ) ์์(๊ณต๋ชจ์ ์์_ref.pdf)
์ต๊ทผ ์ด์๊ฐ ๋๊ณ ์๋ ์ด๋ฆฐ ์ธ๋์ ๋ฌธํด๋ ฅ ์ ํํ์์ด๋ผ๋ ๋ฌธ์ ์์์์ ์ถ๋ฐํ์ฌ, ์คยท๊ณ ๋ฑํ์์ ํ๊ฒ์ผ๋ก ๋ฌธํด๋ ฅ ํฅ์์ ์ํด ๋ ผ์ ์ ํฌํจํ ๊ธ์ฐ๊ธฐ ํ์ต ๋ฐ ๋ ์ํ์ต์์ ๊ฐ์ฅ ์์ฃผ ์ฌ์ฉํ๋ ํ์ต์ธ ๋ฌธ์ ์์ฝ ์ฐ์ต์ ํ ์ ์๋ ์๋น์ค๋ฅผ ์น ์๋น์ค๋ฅผ ์ด์ฉํ์ฌ ์ ๊ณตํฉ๋๋ค.
: ํ๊ตญ์ด ๋์ ๋ง๋ญ์น์์ ํน์ ๊ธธ์ด์ ๋ ํด ์ง๋ฌธ์ ์ ๊ณตํฉ๋๋ค. ์ดํ ํ์ต๋ชจ๋ธ์ด ๊ธฐ๊ณ ์์ฝ๋ฌธ์ ์์ฑํด์ฃผ๋ฉด, ์ฌ์ฉ์๊ฐ ์ ๋ ฅํ ์์ฝ๋ฌธ๊ณผ ๊ธฐ๊ณ๊ฐ ์์ฝํ ์์ ๋ฌธ์ ๋น๊ต ๋ฐ ํ๊ฐํ์ฌ ์ ํ๋๋ฅผ ์ถ๋ ฅํฉ๋๋ค. 0.8 ์ด์์ด๋ฉด Perfect, 0.6 ์ด์ 0.8 ๋ฏธ๋ง์ด๋ฉด Great, 0.4 ์ด์ 0.6 ๋ฏธ๋ง์ด๋ฉด Good, 0.4 ๋ฏธ๋ง์ด๋ฉด Try again ์ด๋ผ๋ ๊ฐ์ด ๋จ๋๋ก ํฉ๋๋ค.
- jsonํ์ผ ํํ๋ก ๋์ด์๋ ๋ฐ์ดํฐ์์์ ํ์ํ ๋ถ๋ถ๋ง์ ์ ์ ํ์ฌ csvํํ๋ก ์ ๋ฆฌํฉ๋๋ค.
- ๋ฌธ๋จ์ด ์๋ ๋ฌธ์ฅ์ ํํ๋ก ๊ตฌํ๋์ด ์๋ ๋ฐ์ดํฐ์ ๊ฒฝ์ฐ ๋ฌธ๋จ์ ํํ๋ก ์ ์ ํฉ๋๋ค.
- ๋์ด๋๋ฅผ ๊ณ ๋ คํ ์๋น์ค ๊ตฌํ์ ์ํ ์ปฌ๋ผ์ ์์ฑํฉ๋๋ค.
- ๋ง๋ญ์น ๋ฐ์ดํฐ๋ฅผ ์นดํ ๊ณ ๋ฆฌ๋ณ๋ก ๊ณ ๋ คํ์ฌ ๋ณํฉํฉ๋๋ค.
- ์๋น์ค ๊ตฌํ์ ๋น ๋ฅธ ๊ตฌ๋ ์๋๋ฅผ ์ํ์ฌ ๋ฐ์ดํฐ๋ฅผ DB์ ํํ๋ก ์ ์ ํฉ๋๋ค.
: ๋์ฉ๋ ์์ ํ
์คํธ๋ก๋ถํฐ ๋น์นธ ๋จ์ด์ด ๋ง์ถ๊ธฐ(T5 ํ์ต ์ ํ)์ ๋ค์ ๋จ์ด ๋ง์ถ๊ธฐ(GPT ํ์ต ์ ํ)๋ฅผ ๋์์ ์ฌ์ ํ์ต(pre-train)ํ์ฌ ์ธ์ด ์ดํด์ ์ธ์ด ์์ฑ ๋ฅ๋ ฅ์ ํฅ์ ์ํจ ETRI์์ ๊ฐ๋ฐํ ํ๊ตญ์ด ์ดํด์์ฑ ์ธ์ด๋ชจ๋ธ์ ์ฌ์ฉํ์์ต๋๋ค.
: ์ธ์ด ๋ชจ๋ธ์ ETRI์ ET5 ํ์ต ๋ฐ์ดํฐ ์ฌ์ฉ์ ์ฒญ ํ์ด์ง๋ฅผ ํตํด ์ฌ์ฉํ๊ฐํ์ฝ์๋ฅผ ์์ฑํ ํ ๋ค์ด๋ก๋ ํ์ฌ ์ฌ์ฉ๋ฐ์์ผ๋ฉฐ, ์ 3์์๊ฒ ๋ฌด๋จ ๊ณต์ ๊ฐ ๋ถ๊ฐ๋ฅํ์ฌ Github ์ ์ฅ์์๋ ์
๋ก๋ํ์ง ์์์ต๋๋ค.
: https://aiopen.etri.re.kr/service_dataset.php
: ์ฌ์ ํ์ต๋ ET5๋ฅผ ์ฃผ์ด์ง ๋ฌธ์์ ํน์ง์ ๋ง๋ ์์ฝ๋ฌธ์ ์์ฑํ๋๋ก ํ์ธ ํ๋์ ์งํํ์์ต๋๋ค. ํ์ธํ๋์ AI hub ๊ฐ๋ฐฉ๋ฐ์ดํฐ์ ๋ฌธ์์์ฝ ํ ์คํธ(์ฝ 300์~1์ฒ์๋ก ์ด๋ฃจ์ด์ง ๋ฌธ๋จ 20๋ง๊ฑด๊ณผ ๊ฐ๊ฐ์ ๋ฌธ๋จ์ ๋ํ ์์ฝ๋ฌธ 20๋ง๊ฑด์ผ๋ก ์ด๋ฃจ์ด์ง ๋ฐ์ดํฐ) ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ์ฌ ์ด๋ฃจ์ด์ก์ต๋๋ค.
: ๋ฌธ์ฅ ์์ฝ ํ๊ฐ์ ๊ด์ต์ ์ผ๋ก ROUGE score๋ฅผ ๋ง์ด ์ฌ์ฉํ์ง๋ง ROUGE๋ exact match๋ก ํ๊ฐํด ๋ฌธ๋งฅ์ ํ๊ฐํ์ง ๋ชปํฉ๋๋ค. ๋ฐ๋ผ์ ๋จ์ด๊ฐ์ ์ฝ์ฌ์ธ ์ ์ฌ๋๋ฅผ ํตํด F1 score๋ฅผ ์ฐ์ถํ๊ธฐ ๋๋ฌธ์ ๋ฌธ์ฅ๊ฐ์ ๋ฌธ๋งฅ์ ํ๊ฐํ ์ ์๋ BertScore๋ฅผ ์ฌ์ฉํ์์ต๋๋ค.
: BERT_Score์ ๊ธฐ๋ณธ ๊ตฌ๋์๋ฆฌ๋ ์ฐธ์กฐ ๋ฌธ์ฅ๊ณผ ๋ชจ๋ธ์ด ์์ฑํ ๋ฌธ์ฅ์ contextual embeddingํ์ฌ ์ฝ์ฌ์ธ ์ ์ฌ๋๋ฅผ ๊ตฌํ๊ณ , ์ดํ Greedy matching์ ํตํด ๊ฐ์ฅ ๋์ ์ ์ฌ๋๋ฅผ ๊ฐ์ง ๋ฒกํฐ๋ฅผ ๋ฝ์ F1 score๋ฅผ ๊ตฌํฉ๋๋ค.
: ์ ํฌ ๋ชจ๋ธ์ bert score๋ 0.8391์
๋๋ค.
๋ค ๊ฐ์ง์ ์ฃผ์ ๋ฅผ ์ ํํ๊ฑฐ๋, โ์ค๋ ฅUPโ์ ์ ํํ์ฌ ์ฌํ ๋ฒ์ ์ ํ์ตํ ์ ์์ต๋๋ค.
๋ค ๊ฐ์ง์ ์ฃผ์ ๋ณด๋ค ์ข ๋ ๋ค์ํ ์ฃผ์ ๋ฅผ ์๋ดํฉ๋๋ค.
์ค์ง์ ์ผ๋ก ๋ฌธ๋จ์ ๋ณด๊ณ ์ฌ์ฉ์๊ฐ ์์ฑํ ์์ฝ๋ฌธ์ ํ๊ฐํ ์ ์์ต๋๋ค.
์๋จ์ 4๊ฐ์ง์ ์ฃผ์ ๋ฐ ์ฌํ ๋ฌธ๋จ์ผ๋ก ์์ฝ๋ฌธ์ ํ์ตํ ์ ์๋ ๋ฒํผ์ด ์์ต๋๋ค. 4๊ฐ์ง์ ์ฃผ์ ๋ ์ฃผ์ ๋ณ 600์ ๋ฏธ๋ง์ ๊ธ๋ค๋ก ๊ตฌ์ฑ๋์ด ์๊ณ , ์ฌํ ๊ธ์ฐ๊ธฐ๋ ๋๋ค ์ฃผ์ ๋ก 600์ ์ด์์ ๊ธ๋ค๋ก ๊ตฌ์ฑ๋์ด ์์ต๋๋ค.
์ฌ์ฉ์๋ ์ฃผ์ ๋ณ๋ก ์ถ๋ ฅ๋ ๋๋ค ๋ฌธ๋จ์ ๋ณด๊ณ ์ฌ์ฉ์ ์์ฝ๋ฌธ์ ์ง์ ์์ฑํ ์ ์์ต๋๋ค. ์ด ๋, ํ์ด๋จธ๋ฅผ ์ด์ฉํ์ฌ ํ์ต ์๊ฐ์ ์ด ์ ์์ต๋๋ค.
์์ฝ๋ฌธ์ 60์ ์ด์, 200์ ์ด๋ด๋ก ์ถฉ๋ถํ ์์ฑ ํ โ์ ์ถํ๊ธฐโ๋ฅผ ๋๋ฅด๋ฉด ๊ธฐ๊ณ์์ฝ๋ฌธ๊ณผ ํจ๊ป ํ๊ฐ๋ ์ค์ฝ์ด๊ฐ ์ถ๋ ฅ๋ฉ๋๋ค.
์ฌ์ฉ์์ ์ ๋ณด์ ์น ์๋น์ค์ ์ฌ๋ฌ๊ฐ์ง ์ค์ ๋ค์ ์กฐ์ ํ๊ฑฐ๋ ํ์ธํ ์ ์์ต๋๋ค.