언유상씨의 건전한 취미생활
[매일 논문 초록 읽기 : 52일차] 대화 세션 전체를 하나의 sequence로 처리하는 task-oriented dialog system인 UBAR 본문
[매일 논문 초록 읽기 : 52일차] 대화 세션 전체를 하나의 sequence로 처리하는 task-oriented dialog system인 UBAR
언유상 2024. 1. 5. 11:25 이 논문은 우리의 과제 지향 대화 시스템인 UBAR를 소개한다. UBAR는 대화 세션 수준에서 과제 지향 대화를 모델링 할 수 있도록 설계되었다. 구체적으로, UBAR는 각 턴마다 발생하는 사용자 발화, belief state, 데이터베이스 결과, system act, system response으로 구성된 전체 대화 세션에 대해 대규모 사전학습 단방향 언어모델인 GPT-2를 fine-tuning함으로써 얻을 수 있다. 추가적으로, UBAR는 사용자 발화, belief state, system act, system response와 같이 생성된 모든 내용에 대한 접근을 가진 dialog context에서 더 현실적인 설정으로 평가되었다.
MultiWOZ 데이터셋에서 진행한 실험의 결과는 UBAR가 response generation, policy optimization, end-to-end modeling에서 각각 4.7, 3.5, 9.4 점의 combined score를 향상시켜 여러가지 상황들에서 SOTA를 달성함을 보였다. 철저한 분석은 세션 단계의 훈련 시퀀스 정의와 생성된 dialog context가 UBAR가 완전한 end-to-end 과제 지향 대화 시스템으로 작동하는데 필수적임을 보였다. 우리는 또한 새로운 도메인의 제한된 정보를 사용하여 UBAR의 전이 능력을 평가하였고, 대화 세션 단계에서 UBAR를 사용하였을 때의 장점에 대해서도 시각적인 자료 및 사례 연구를 제공하였다.
제목 : UBAR: Towards Fully End-to-End Task-Oriented Dialog System with GPT-2
https://arxiv.org/abs/2012.03539