Convex optimization (7) 썸네일형 리스트형 Affine and convex sets - Euclidean ball and ellipsoid $\mathbf{R}^n$에서 Euclidean ball은 아래와 같은 형태를 가진다. $$ \begin{align} \text{B(} x_c , r \text{)} \; &= \; \left\{ x \; | \; \lVert x-x_x \rVert _2 \leq r \right\} \; \\ &= \; \left\{x \; | \; \left( x-x_c \right)^T \left( x-x_c \right) \leq r^2 \right\} \\ &= \; \left\{ x_c+ru \; | \; \lVert u \rVert_2 \leq 1 \right\} \end{align}$$ 여기서 $x_c$는 Ball의 Center를 의미하며, $r$은 Ball의 반지름($ r > 0 $)을 의미한다. 또한 수.. Affine and convex sets - norm Norm ball과 Norm cone에 대해서 공부하기전에 먼저 norm에 대해서 먼저 알아보자. norm이란 n차원 실수집합에서 1차원 실수집합으로 대응되는 함수로 아래의 성질을 만족한다. $$ \text{A function} \;f \; : \; \mathbf{R}^n \to \; \mathbf{R} \; \text{with} \; \mathbf{dom} f = \mathbf{R}^n \; \text{is called a norm if} $$ $$ \text{(1)} \quad f(x) \geq 0 \; \text{for all} \; x \in \mathbf{R} $$ $$ \text{(2)} \quad f(x) =0 \; \text{only if} \; x = 0 $$ $$ \text{(3)} \.. Affine and convex sets - Some important example, Hyperplane Convex optimization을 공부할때 필요한 기본적인 Convex set들을 살펴보자. Empty set (공집합), Singleton(어떤 임의의 점), 그리고 n차원의 실수 집합은 affine set이다. (affine set이기 때문에, 당연히 convex set) 임의의 Line도 affine set이다. Line segment는 convex set이다. (affine set이 아님) Subspace(부분 공간)은 affine이면도 동시에 convex cone이다. (부분공간은 덧셈과 곱셈에 닫혀있는 것을 생각하면 affine set의 정의를 만족함을 알 수 있음) Ray(반직선) 또한 convex set이다. (기하학적으로 생각하면 직관적으로 알 수 있음) 위에서 언급한 Convex s.. Affine and convex sets - Cones 오늘은 Cone에 대해서 공부해보자. Cone은 광원에서 빛이 나아가는 모양을 생각하면 쉽게 이해할 수 있다. Cone의 수리적 정의는 아래와 같다. $$ \text{A set C is called a cone, if for every}\; x \in C \; \text{and} \; \theta \geq 0\; \text{we have}\; \theta x \in C. $$ 또한 Convex cone의 수리적 정의는 아래와 같다. $$ \text{for any}\; x_1,\; x_2 \; \in C \;\text{and} \; \theta_1,\; \theta_2 \geq \; 0, \text{we have} \; \theta_1 x_1 + \theta_2 x_2 \in C $$ Convex cone.. Affine and convex sets - convex sets 이번에는 Convex sets에 대해 알아보자. Convex sets의 수리적인 정의는 아래 식과 같다. $$ \text{if for any}\; x_1,\;x_2\; \in C\; \text{and}\; \text{any} \; \theta \; \text{with} \; 0 \leq \theta \leq 1, \text{we} \; \text{have}\; \theta x_1 + \left(1- \theta \right) x_2 \; \in C $$ 위 수식의 의미를 설명하면, 어떤 임의의 집합 C의 두점을 연결한 선분(line segment)가 다시 집합 C에 속하게 될때, 그 집합 C를 Convex set이라 정의한다는 것이다 아래 그림은 Convex set의 쉽게 설명해주는 예시이다. 좌측의 육.. Affine and convex - Affine sets Affine set의 정의는 수식으로 표현하면 다음과 같다. $$ if\;for\;any\;x_1, x_2 \in C \; and\; \theta \in R,\;we\;have\;\theta x_1+(1-\theta)x_2 \in C, \quad then\; A\; set\; C \subseteq R^n\;is\; affine$$ 이를 해석하면, 집합 C의 임의의 점 2개를 선택하고, 그 선택한 2개의 점을 연결하는 Line이 다시 집합 C에 속할때, 그 집합 C를 Affine set이라고 한다. 또한, 위 수식은 집합 C의 임의의 두개의 점에 대해 선형결합의 계수의 합이 1인 선형결합이 다시 집합 C에 속하는 것으로도 이해할 수 있다. (선형결합의 계수의 합이 1이라는 의미는 예를 들어, 위 식에서 2.. Affine and Convex set - Line and line segments 볼록최적화(Convex optimization)을 공부할때 가장 기본적인 개념이 바로 Affine과 Convex set이다. 이를 이해하기 위해 먼저 line과 line segment에 대해 알아보자. Line은 수학적으로 아래와 같이 표현될 수 있다. $$ y= \theta x_1 + (1-\theta)x^2 \quad s.t \quad x_1 \neq x_2,\quad x_1,x_2 \in R^n,\quad \theta \in R $$ 위 수식에 따라 θ값이 변하면 점 y의 위치 변한다. 위의 수식을 θ의 변화에 따른 점 y의 위치를 표현하면 아래 그림 1과 같다. 즉, θ가 어떤 임의의 실수이기 때문에, 점 y의 집합은 결국 우리가 아는 직선을 의미하게 된다. 그리고 θ가 0과 1사이의 값을 갖는 .. 이전 1 다음
