- Most common Distribution
1. 베르누이 분포 (이항분포)
2. 균일 분포
영역의 모든 구간에서 일정한 확률 값을 갖는다.
3. 정규 분포 (가우스 함수)
일반적이고 연속적인 랜덤 함수이다.
평균 및 분산의 간단한 matrics 으로 정의할 수 있다.
4. 로지스틱 분포
정규 분포와 유사하지만 모양에 있어서 조금 더 긴 꼬리를 갖는다.
로지스틱 분포는 누적 분포 함수 (cumulatovew distibution function)
5. 시그모이드 곡선
시그모이드 곡선은 신경망 활성화 함수에 대해 알아볼 때 다시 다룬다.
- 확률 함수에 대한 통계적 측정 기준
1. 왜도 (Skweness)
왜도는 수평적인 편차, 중심으로부터의 편차, 확률 분포의 대칭을 나타낸다.
2. 첨도 (Kurtosis)
분포의 중심 집중 정도에 대한 아이디어를 제공하며, 중심 영역이 얼마나 급격한지 , 함수의 꼬리가 얼마나 분산되었는지를 정의한다.
- 미분
1 . 평균 변화율
이러한 초기 접근법은 동적 특성을 대략적으로 알 수 있지만, 측정하는 시점에 매우 의존적이며 필요한 구간마다 측정해야한다.
2. 순간 변화율
순간 변화를 구하기 위해서는 영역 내에 있는 x의 값을 줄여야 한다.
이 접근법을 이용하기 위해 초기값을 x로, 다음 값을 x + Δx로 한다.
이 Δ를 무한히 작게하는 것을 f(x)의 미분, f(x)의 도함수라고 한다.
- 편미분 (Partical Differential Equation)
이제부터는 다변수 함수를 다룰 것이다.
데이터 셋은 한 개 이상의 열(column)을 포함할 것이며, 각각의 열은 다른 변수를 나타낸다.
하나의 차원 값이 변할 때 어떻게 함수가 변하는 지를 알아야 하며, 이것은 데이터셋의 한 열이 전체 함수 변화에 기여하는지와 관련이 있다.
다변수함수의 편미분을 계산할 때 미분하지 않는 함수는 상수로 취급하고 미분하려는 부분만 미분 법칙을 사용한다.
