엔트로피 기반 유사 라벨 생성을 통한 멀티 소스 블랙박스 도메인 적응
Published in 제 34회 영상처리 및 이해에 관한 워크샵, 2022
비지도 도메인 적응 (UDA)는 라벨링 된 소스 도메인의 지식을 전달하여 라벨링 되지 않은 타겟 도메인을 위한 예측 모델을 학습한다. 그러나 일반적인 UDA는 소스 데이터나 소스 모델의 세부사항에 대한 접근이 가능하다는 가정이 존재하고, 이는 데이터 및 모델 보호와 저장 문제를 야기하기 때문에 실용적이지 못하다. 최근 소스 모델 인터페이스만이 제공되어, 소스 모델의 예측만을 사용하여 타겟 모델을 학습하는 블랙박스 도메인 적응 (BDA)의 필요성이 대두되었다. 기존의 BDA 연구에서는 하나의 소스 모델만을 이용하는 문제로 효과적인 도메인 적응을 이루기 어려웠다. 더욱이 다수의 소스 도메인이 있는 경우 타겟 모델의 도메인 적응 (DA)을 위해서 소스 개수만큼 개별적으로 타겟 모델을 학습하고 그 중에 가장 우수한 성능을 제공하는 소스 도메인을 선택해야 하는 어려움이 따른다. 본 논문에서는 이 문제를 해결하기 위하여, 다수개의 소스 모델의 예측이 존재할 때 기존의 BDA 방식보다 우수한 성능을 제공하는 알고리즘을 제안한다. 제안 기법에서는 소스 모델의 예측에서 개별 소스와 타겟 도메인 간의 상관성 이외에도 서로 다른 소스 도메인 사이의 관계를 추정하여 타겟 모델의 학습을 위한 유사 라벨을 생성한다. 여러 DA 벤치마크에 대해 수행한 실험 결과를 통해 제안하는 유사 라벨 생성만으로도 기존 방법 대비 0.6-2%의 적응 성능 향상을 보인다.