nanhungrybin / llm_chatbot

LLM_chatbot

📁 Data collection :

📁 Retrival model Finetuning ( Domain Adaptation & Text embedding model Fintuning ) :

📁 Generation model Fintuning :

• 한국어에 특화된 Saltlux/Ko-Llama3-Luxia-8B 활용

• GPT-4o를 이용한 Q & A dataset생성 (현재 생성 용량: 16.76MB)

  • input: Relevant Document, output: Q & A
  • Q&A dataset (train: 4269개, validation: 1641개)

• Fintuning Method

  • QuantizedLoRA + FSDP(Fully Shared Data Parallel) 방법 활용
  • Instruction Tuning on 사출성형 (Injection Molding) dataset
    • {Question: Relevant Document } -> Answer

• 평가 지표 : 코사인 유사도

  • 질문이 주어졌을 때, GPT-4o가 생성한 답변 (A)와 각 모델이 생성한 답변(B) 간의 유사도 측정

• 파인튜닝 결과