언유상씨의 건전한 취미생활

[매일 논문 초록 읽기 : 20일차] task간의 관련성에 기반한 multi-task learning 방법론 조사 본문

건전한 학습생활 - 매일 논문 초록 읽기

[매일 논문 초록 읽기 : 20일차] task간의 관련성에 기반한 multi-task learning 방법론 조사

언유상 2023. 11. 29. 18:08

Multi-task learning (MTL)은 관계가 있는 task들의 공통점과 차이점을 사용하여 해당 task들의 성능을 향상시키기 때문에 NLP분야에서 유명해지고 있다. 그러나, task의 관련성에 기반한 multi-task learning이 어떻게 구현 가능한지에 대해서는 명확하게 이해되지 않았다. 이 조사에서 우리는 최근 NLP 분야에서 발전된 multi-task learning들을 리뷰하여 task의 관련성에 기반한 2가지 일반적인 multi-task training 방법론을 요약하는 것을 목적으로 한다. (1. joint training, 2. multi-step training) 우리는 여러가지 NLP downstream에 적용한 예시를 제시하고, task의 관계들에 대해 요약하고 이러한 주제의 미래 방향성에 대해 토론한다.

 

제목 : A Survey of Multi-task Learning in Natural Language Processing: Regarding Task Relatedness and Training Methods

https://aclanthology.org/2023.eacl-main.66/

Comments