3-2. Discriminant Functions

---

< 목차 >

1. 용어정의
2. Discriminant functions

---

1. 용어정의

Hyperplane : 초평면, 선형 공간의 차원보다 한 단계 낮은 차원을 가진 부분 선형 공간을 평행 이동하여 얻은 평면

 

 

---

2. Discriminant function

위에서 언급한 입력데이터 x를 해당하는 클래스로 분류할 수 있는 Discriminant functions에 대해 살펴보면 입력데이터는 Linear model에 의해 표현될 수 있고 입력데이터의 공간을 D차원이라고 했을 때, Decision boundary는 (D-1)차원으로 나타난다.

 

위의 그림을 예로 들면, 2차원의 x1, x2 데이터공간에서 이를 분류하는 Decision boundary인 y=f(x)는 1차원의 Linear model이다. 이때, 임의의 입력데이터 x에 대해 y>0 일 경우 Class 1으로 분류될 수 있고 y<0일 경우 Class 2로 분류된다. 여기서 3차원 이상의 입력데이터 공간에서는 Decision boundary가 선에서 면으로 확장되어 이를 Hyperplane이라고 부른다.

개념을 확장시켜, 클래스 두 개가 아닌 그 이상인 경우로 확장해보면, 다음 수식으로 표현할 수 있으며 특정 클래스 k에 x를 포함하는 y의 값이 다른 클래스의 값보다 크면 해당 입력데이터 x는 클래스 k에 포함된다.

 

예로 들어, 세 개의 클래스로 구분하는 문제일 경우 Discriminant functions은 다음과 같이 세 개로 표현할 수 있다.

 

 

그때 각 k개 영역의 Decision boundary는 아래와 같이 표현될 수 있다.

 

 

클래스 구분에 필요한 Discriminant functions의 수는 분류되는 영역, 즉 클래스의 개수에 따르며, 아래의 그림과 같이 표현될 수 있다.

 

 

---