본문 바로가기

반응형

Basic for AI/통계 & 수학

(6)
수열과 점화식 수열과 점화식 학습 이유 데이터사이언스에서 연속적인 개념을 근사적으로 표현할 때 자주 등장 특히 수열의 점화식과 극한은 반복적이고 순차적인 데이터에 특화된 순환신경망 분석에서 매우 중요 수열(sequence) 정해진 규칙에 따라 차례대로 나열한 수 등차수열(arithmetic sequence) 두 항의 차가 일정한 수열 첫번째 항 a에 차례로 공차(common difference) d를 더해서 만든 수열 등비수열(geomoetric sequence) 두 항의 비가 일정한 수열 첫번째 항 a에 차례로 공비(common ratio) r을 곱해서 만든 수열 일반적으로 공비 r 은 0이 아니다. 그외 수열들 자연수 거듭제곱의 합 수열의 점화식(recurrence formula) 주어진 수열 {a_n} 의 이웃하..
피어슨 상관계수 피어슨 상관계수 -1 ~ 1 사이의 범위를 가짐 상관관계가 없으면 0, 상관관계가 강하면 1 또는 -1 데이터의 분포가 넓게 퍼지며 원에 가까워질수록 상관계수 값은 0에 가까워진다. 상관계수는 '기울기'를 이야기하는 것이 아니라 두 변수 간에 한 변수가 변함에 따라 다른 변수의 값이 어떻게 변하는지에 대한 '상호적인 관계의 정도'를 나타내는 것이기 때문에, 기울기가 급하든 완만하든 데이터의 분포가 직선에 가깝다면 상관계수는 항상 1 또는 -1에 가까워진다. 양 또는 음의 상관관계가 아닌 경우 상관계수는 0이다. 상관관계와 상관계수는 두 변수 간의 패턴을 나타내는 것이 아닌, 각 값의 증가 또는 감소에 대한 관계만을 나타내기 때문이다.
정보이론(Information Content) 정보이론(Information Content) 추상적인 '정보'라는 개념을 정량화하고 정보의 저장과 통신을 연구하는 분야 정보를 정량적으로 표현하기 위한 세 가지 조건 1. 일어날 가능성이 높은 사건은 정보량이 낮고, 반드시 일어나는 사건은 정보가 없는 것이나 마찬가지다. 2. 일어날 가능성이 낮은 사건은 정보량이 높다. 3. 두 개의 독립적인 사건이 있을 때 전체 정보량은 각각의 정보량을 더한 것과 같다. 이러한 조건에 따라 아래 예제를 살펴보자 어떤 사람이 주머니에서 공을 꺼내는 과정을 반복하는 실험을 한다. 1. 각각의 주머니에서 공을 꺼낼 때 얻을 수 있는 정보량: 왼쪽 > 오른쪽 2. 파란색 공 999개와 빨간색 공 1개가 들어있는 주머니가 있을 때, 공을 하나 꺼내고 다시 넣는 실험을 반복한다..
[선형대수학] 행렬 까먹은 내용 재정리 [선형대수학] 행렬 까먹은 내용 재정리 행렬 연산의 기본 성질 (AB)C = A(BC) (곱에 대한 결합법칙) A(B+C) = AB + AC (분배법칙) AB = AC라고 해서 반드시 B=C인 것은 아니다(소거법칙 성립x) 역행렬 A * A^(-1) = I 가역 행렬(invertible, 비특이 행렬, 정칙행렬): 역행렬이 존재하는 행렬 비가역 행렬(noninvertible, 특이행렬): 역행렬이 없는 행렬. 매우 드물다. n차 정방행렬 A가 가역이면, A의 역행렬은 유일하다. aA가 가역일때, 역행렬은 1/a * A^(-1) [A^(-1)]^k = [A^k]^(-1) 대칭행렬과 반대칭행렬 대칭행렬(symmetric): 행렬 A와 A^T이 같을 때 행렬 A 반대칭행렬(skew-symmetric): A^T..
벡터의 선형종속과 선형독립, 기저 벡터의 선형종속과 선형독립, 기저 선형독립(Linear independent) 집합 $S = {v_1, v_2, ..., v_n}$ 의 벡터들은 $c_1v_1+c_2v_2 + ... c_nv_n = 0 $을 만족하는 계수들이 $c_1=c_2=...c_n=0 $ 이외에는 존재하지 않을 때 선형적으로 독립이라고 한다. 즉 어떤 벡터들이 선형 독립이라는 것은 각각의 벡터들이 선형 결합으로 표현되지 않는다는 것 선형독립인 벡터들의 선형결합으로 구성된 벡터 $u$ 가 있다고 하자. $u = c_1a_1+... + c_na_n$ 이때 $u$를 특징짓는 $c$들은 유일(unique)하다. cf. 선형결합 수학에서 각 항에 상수를 곱하고 결과를 추가함으로써 일련의 항으로 구성된 표현식 예: x와 y의 선형 결합: $a..
01-1. 기본적 수학 개념 수의 체계 복소수: 실수부 + 허수부 실수: 허수부가 0 허수: 실수부, 허수부 둘다 0 아님 순허수: 실수부가 0 유리수: 실수 중 분수 형태로 표현 가능한 수 무리수: 분수로 표현할 수 없는 수 집합(set) 특정 조건을 만족하는 원소들의 모임 원소나열법(tabular form): {1,2,3,4} 조건제시법(set builder form): {2n | n=1,2,3,4} 모든 집합은 공집합을 부분집합으로 갖는다 사상(mapping) f:A → B로 표현 집합 A,B에 대해서 A의 각 원소가 B의 어떤 원소 하나에 대응될 때 이 관계를 A에서 B로의 사상이라고 함 A: 정의역(domain), 정의구역 B: 공역(codomain), 공변역 치역(range): 정의역 원소, 즉 A의 원소의 상을 모아둔 ..

반응형