ArcFace paper review

ArcFace

Jiankang Deng, et al. “ArcFace: Additive Angular Margin Loss for Deep Face Recognition” Computer Vision and Pattern Recognition

ArcFace 리뷰

안녕하세요. AiRLab(한밭대학교 인공지능 및 로보틱스 연구실) 노현철 입니다. 제가 이번에 리뷰할 논문은 “ArcFace: Additive Angular Margin Loss for Deep Face Recognition” 입니다.

Abstract

-DCNN 학습의 차별력을 향상시키는 하나는 loss 설계이다.
-Centre loss는 유클리드 공간에서 딥 피처와 해당 클래스 중심 사이의 거리에 페널티를 주어 클래스 내 압축을 달성한다.
-SphereFace는 마지막 fc 계층의 선형 변환 행렬이 각 공간에서 클래스 중심의 표현으로 사용될 수 있다고 가정하고 딥 피처와 해당 가중치 사이의 각도에 곱셈 방식으로 페널티를 준다.
-본 논문에서는얼굴 인식을 위한 고도의 차별적인 특징을 얻기위해 Additive Angular Margin Loss (ArcFace)를 제안한다.
-ArcFace는 무시할 수 있는 오버헤드로 쉽게 구현 가능하며 sota를 달성하였다.

Introduction

-DCNN은 일반적으로 클래스 내부가 작고 클래스간 간격이 큰 특징으로 맵핑한다.(loss로?)
-얼굴 인식을 위한 DCNN 훈련 방식은 두 가지가 있다.
-하나는 softmax classifier이고 나머지는 triplet loss이다. 둘 다 뛰어난 성능을 지닌다.
-하지만 둘 다 단점이 몇가지 있다.
-softmax classifier는 선형 변환 행렬 크기는 identities number n에 따라 선형적으로 증가한다.(class가 identities인듯하다)
-또한, 학습된 features는 closed-set에서 단순한 classification 가능하지만 open-set에서는 분별력이 충분하지 않다.(closed-set은 trainset에 test label이 있는 경우, open-set은 trainset에 test label이 없는경우)
-triplet loss는 대규모 dataset일 때 triplet의 수가 많아져 반복 단계가 크게 증가한다.
-또한, semi-hard sample mining은 효과적인 모델에 대해 어려운 문제다.
-softmax loss의 많은 변형이 있었지만 아직도 face class가 많으면 어렵다.
-CosFace는 SphereFace보다 성능이 더 좋고, 훤씬 쉽게 구현할 수 있다.
-본 논문에서는 모델의 차별력을 더욱 향상 시키는 ArcFace (Additive Angular Margin Loss)를 제안한다.
-DCNN기능과 마지막 fc계층간의 내적은 기능과 weight normalisation이 코사인 거리가 같아 아크 코사인을 사용하여 현재 특성과 목표 가중치 사이의 각도를 계산한다.
-그 후 마진을 추가하고 코사인 함수로 로직을 다시 얻고, 고정된 특성 표준에 따라 다시 조정하여 softmax loss를 거친다.
-다음과 같이 요약할 수 있다.

• 정규화된 hypersphere의 각도와 호 간의 대응으로 마진을 직접 최적화한다.
  
• 10개 부분의 dataset에서 sota를 달성하였다.
  
• 몇 줄의 코드로 구현이 가능하다.
  
• 무시할 수 있는 계산 복잡성이다.