Affine and convex sets - Some important example, Hyperplane

Convex optimization을 공부할때 필요한 기본적인 Convex set들을 살펴보자.

• Empty set (공집합), Singleton(어떤 임의의 점), 그리고 n차원의 실수 집합은 affine set이다.
  (affine set이기 때문에, 당연히 convex set)
• 임의의 Line도 affine set이다. 
• Line segment는 convex set이다. (affine set이 아님)
• Subspace(부분 공간)은 affine이면도 동시에 convex cone이다.   
  (부분공간은 덧셈과 곱셈에 닫혀있는 것을 생각하면 affine set의 정의를 만족함을 알 수 있음)
• Ray(반직선) 또한 convex set이다. (기하학적으로 생각하면 직관적으로 알 수 있음)

위에서 언급한 Convex set들은 특별한 증명이 없어도 쉽게 Convex set임을 알 수 있을 것이다.

 

다음은 Hyperplane과 Halfspace에 대해서 알아보자. 

 

Hyperplane은 아래와 같은 정의를 따르는 점들의 집합이다. 

$$ \left\{ x \; | \; a^T x = b \right\} \quad \text{where}\quad a \in R^n, \; b \in R, \; a \neq 0  $$

Hyperplane을 구성하는 점들은 선형방정식의 non-trivial solution set을 의미하며, 기하학적으로 보면 법선벡터(normal vector)가

a인 평면을 의미한다. 

(non-trivial solution이란 선형대수학에서 비자명해를 의미하며, 쉽게 생각하면 Ax = 0를 만족하는 해 중 x가 0이 아닌 해를 의미)

 

위에서 수학적으로 정의한 것을 아래 식과 같이 다시 표현할 수 있다.

$$ \left\{ x \; | \; a^T\left( x-x_0 \right) = 0 \right\} \quad \text{where} \quad a^T x_0 = b $$

바로 위의 식을 그림으로 표현하면 아래와 같다. (벡터 a와 내적이 0을 이루는 점들의 집합을 표현)

 

한편 n차원의 실수공간은 Hyperplane을 통해서 2개의 Halfspace로 구분이 되며 수학적으로 정의하면 아래와 같다.

$$ \left\{ x\; | \; a^T x \leq b \right\} $$

즉, Halfspace는 Hyperplane보다 아래쪽(위쪽)에 있는 점들의 집합들을 의미하며, convex set이다. (affine set은 아님)

Halfspace에 대한 것은 아래의 그림을 통해 쉽게 이해할 수 있 것이다.

 

Hyperplane과 마찬가지로 Halfspace도 다른 형태로 표현이 가능하며, 아래의 수식으로 표현될 수 있다.

$$ \left\{ x \; | \; a^T \left( x-x_0 \right) \leq 0 \right\} $$

바로 위의 수식을 아래의 그림과 같이 보면 쉽게 이해할 수 있을 것이다.

위그림을 통해 Halfspace는 Hyperplane을 기준으로 벡터 a와 둔각을 이루는 점들의 집합임을 알 수 있다.

 

그림 및 자료 출처 : Boyd, S., Boyd, S. P., & Vandenberghe, L. (2004). Convex optimization. Cambridge university press.