본문 바로가기

전체 글

(27)
Continuous random variable 지난 포스팅에서는 이산 확률변수(Discrete random variable)에 대해서 작성했다. 이번 포스팅에서는 셀 수 없는(Uncountable) 확률변수인 연속 확률변수(Continuous random variable)에 대해서 작성해보겠다. 만약 $ x \in (- \infty , \infty)$에서 정의 되는 음이 아닌 함수(Non-negative function) $f(x)$가 어떤 임의의 실수집합 B에 대해 아래와 같은 조건을 만족하면 우리는 확률변수 X를 연속 확률변수(Continuous random variable)이라고 한다. $$ P\left\{X \in B \right\} = \int_{B} f(x)\, dx \quad \quad \cdots \cdots \cdots \quad(1..
Discrete random variable (2) - geometric, poisson 지난번 포스팅에서는 이산 확률변수가 무엇인지, 그리고 이산 확률변수 중 Bernoulli, Binomial random variable에 대해서 알아보았다. 이번 포스팅에는 지난시간에 이어, 이산 확률변수의 일종인 geometric, poisson random variable에 대해서 작성해보겠다. 1. Geometric random variable 성공할 확률이 $p$인 실험이 있고 이러한 실험을 독립적으로 여러번 시행한다고 가정하자. 이때 확률변수 X를 가정에서 설명한 실험을 시행했을 때, 첫번째로 실험이 성공했을때의 실험 횟수라고 한다면 이러한 확률변수를 파라미터가 $p$인 geometric random variable이라고 하며, 확률 질량 함수는 아래와 같다. $$ p(n) = p\left\{ ..
Discrete random variable 지난 포스팅에는 확률변수(random variable)의 정의에 대해서 작성했는데, 이번 포스팅에는 확률변수 중에서도 셀 수 있는(Counting) 확률변수인 이산 확률변수(discrete random variable)에 대해 작성해보겠다. 예를들어, 두개의 주사위를 던졌을때 나온 수의 합이나, 어떤 가게에 방문하는 고객들의 수와 같은 것들은 우리가 직관적으로 셀 수 있는 것(counting)을 알 수 있다. 이러한 확률변수들을 우리는 이산 확률변수라고 한다. 한편, 이러한 이산 확률변수 X에 대해서, X의 확률 질량 함수(probability mass function) $p(a)$를 아래와 같이 정의 한다. $$ p(a) = P\left\{X=a \right\} $$ 확률 질량함수 $p(a)$는 a가 ..
Random Variable 확률을 공부할때 가장 많이 듣는말로 '확률변수'이며, 이번 포스팅에는 확률변수에 대한 내용을 적어보려고 한다. 일단 확률변수는 sample space상에서 각 event를 0과 1사이의 숫자로 대응시키는 일종의 함수라고 생각하면 될 것 같다. 확률변수를 직관적으로 이해하기 위해 아래와 같은 예시를 들어보겠다. 두개의 주사위를 던진다고 했을때, 주사위에 나온 숫자들의 조합을 생각해보자. 그러면 발생할 수 있는 사건은 총 36가지이며 이를 나열 하면 다음과 같다. (첫번째 주사위 수, 두번째 주사위 수) = (1 ,1), (1, 2), (1, 3) ..... (6,5), (6,6) 그리고 위에서 나열 된 사건들의 집합을 sample space 라고 한다. 아무튼 이러한 상황에서 확률변수 X를 두개의 주사위를..
Affine and convex sets - Euclidean ball and ellipsoid $\mathbf{R}^n$에서 Euclidean ball은 아래와 같은 형태를 가진다. $$ \begin{align} \text{B(} x_c , r \text{)} \; &= \; \left\{ x \; | \; \lVert x-x_x \rVert _2 \leq r \right\} \; \\ &= \; \left\{x \; | \; \left( x-x_c \right)^T \left( x-x_c \right) \leq r^2 \right\} \\ &= \; \left\{ x_c+ru \; | \; \lVert u \rVert_2 \leq 1 \right\} \end{align}$$ 여기서 $x_c$는 Ball의 Center를 의미하며, $r$은 Ball의 반지름($ r > 0 $)을 의미한다. 또한 수..
Affine and convex sets - norm Norm ball과 Norm cone에 대해서 공부하기전에 먼저 norm에 대해서 먼저 알아보자. norm이란 n차원 실수집합에서 1차원 실수집합으로 대응되는 함수로 아래의 성질을 만족한다. $$ \text{A function} \;f \; : \; \mathbf{R}^n \to \; \mathbf{R} \; \text{with} \; \mathbf{dom} f = \mathbf{R}^n \; \text{is called a norm if} $$ $$ \text{(1)} \quad f(x) \geq 0 \; \text{for all} \; x \in \mathbf{R} $$ $$ \text{(2)} \quad f(x) =0 \; \text{only if} \; x = 0 $$ $$ \text{(3)} \..
Affine and convex sets - Some important example, Hyperplane Convex optimization을 공부할때 필요한 기본적인 Convex set들을 살펴보자. Empty set (공집합), Singleton(어떤 임의의 점), 그리고 n차원의 실수 집합은 affine set이다. (affine set이기 때문에, 당연히 convex set) 임의의 Line도 affine set이다. Line segment는 convex set이다. (affine set이 아님) Subspace(부분 공간)은 affine이면도 동시에 convex cone이다. (부분공간은 덧셈과 곱셈에 닫혀있는 것을 생각하면 affine set의 정의를 만족함을 알 수 있음) Ray(반직선) 또한 convex set이다. (기하학적으로 생각하면 직관적으로 알 수 있음) 위에서 언급한 Convex s..
Affine and convex sets - Cones 오늘은 Cone에 대해서 공부해보자. Cone은 광원에서 빛이 나아가는 모양을 생각하면 쉽게 이해할 수 있다. Cone의 수리적 정의는 아래와 같다. $$ \text{A set C is called a cone, if for every}\; x \in C \; \text{and} \; \theta \geq 0\; \text{we have}\; \theta x \in C. $$ 또한 Convex cone의 수리적 정의는 아래와 같다. $$ \text{for any}\; x_1,\; x_2 \; \in C \;\text{and} \; \theta_1,\; \theta_2 \geq \; 0, \text{we have} \; \theta_1 x_1 + \theta_2 x_2 \in C $$ Convex cone..