woaksths / ssl-sentiment-cls Goto Github PK

EDA operation을 통해 데이터셋 생성한 것과 내가 제안하는 operation 비교 필요.
학습데이터셋에 포함하는 것이 나을지, 아니면 meta learning에서 매번 generalization을 하는게 나을지 실험 필수.

클래스별 label을 set of seed words라고 가정하고, external knowledge를 word2vec으로 사용

word2vec은 아래와 같은 연산이 가능하기 때문에...
class_label1 : target_word = class_label_x : predicted_word

특정 aspect word만 찾을 수 있다면, 한 문장으로부터 다양한 클래스의 문장으로 자유롭게 perturbed samples을 생성할 수 있음

The α parameter roughly means “percent of words in sentence changed by each augmentation.
알파값이 0.5로 갈수록 성능이 급격하게 떨어지는 문제가 발생 . EDA. --> 줄여보기

• 현재 antonym에 대한 문장과 레이블을 다르게 해서 data를 augmentation하는데 있어서 sentiment vocab에 의존하고 있음.
• 향후 학습을 하면서 클래스 분류를 나타내는 vocab을 자동으로 생성하는 연구와 다중 분류 문제에 접근하는게 어떨까 싶음.
• vocab 생성시 attention, label condition 기반.