한국어 문장 관계 분류 경진대회 🏆 [Private, 1st]
- KLUE Data Label
- premise와 hypothesis, label의 관계
- label 분포
5 fold로 모델을 fine-tuning 후 Voting ensemble
- Model
- Optimizer
- Learning rate scheduler
- Hard voting
- 5개의 모델로 label을 예측
- 대부분의 모델이 neutral에 치중
- 5개의 label 중 같은 label이 3개 이상이면 해당 label 획득, 아니면 neutral
def voting(df): cols = ['neutral', 'contradiction', 'entailment'] for col in cols: if df[col] > 2: return col return 'neutral'
- 가장 빈번한 label을 부여했을 때 label이 neutral에 치중
- label 별로 threshold 다르게 적용
neutral: 3 / contradiction: 2 -> contradiction neutral: 3 / entailment: 2 -> entailment neutral: 4 / contradiction: 1 -> contradiction neutral: 4 / entailment: 1 -> entailment
- 결과
- 5개의 모델로 label을 예측
- Soft voting
- 추가