데이터 분석 기술 블로그

분포 수렴(Convergence in Distribution)은 확률 변수의 분포 함수(F(x))가 어떤 분포 함수로 수렴한다는 의미이다.확률 변수 자체의 수렴이 아니라, 분포 형태의 수렴을 말한다.  이는 다음과 같은 의미이다: Xn​의 분포가 점점 X의 분포와 같아진다하지만, Xn​ 자체가 X에 가까워지는 건 아님→ 단순히 "분포의 모양이 비슷해진다"는 의미다른 수렴과의 관계예제: 중심극한정리의 수렴 형태 정규분포로 분포 수렴한다.

강한 대수의 법칙(Strong Law of Large Numbers, SLLN)은 샘플 평균이 모평균에 거의 확실하게 수렴한다는 강력한 결과이다.통계학과 확률론의 핵심 이론 중 하나고, 약한 대수의 법칙(WLLN) 보다 더 강한 수렴을 보장한다. 2025.03.21 - [데이터 사이언스/수리 통계학] - Weak Law of Large Numbers (약한 대수의 법칙, WLLN) 샘플 평균은 확률 1로 모평균에 수렴한다무작위성이 있어도 거의 모든 시행 경로(sample path)에서 수렴WLLN vs SLLN 차이예제

→ Xn이 어떤 값 X로 수렴하는데,그 수렴이 확률 1로 반드시 일어난다는 의미이다.  확률 수렴 vs 거의 확실한 수렴예제

약한 대수의 법칙(Weak Law of Large Numbers, WLLN)은 샘플 평균이 모평균에 확률수렴한다는 것을 보장하는 법칙이다.통계적 추정의 기반이 되는 가장 핵심적인 정리 중 하나이다.   샘플 평균이 점점 모평균 μ에 가까워진다.많이 측정할수록 정답에 가까워진다.→ 통계적 추정의 핵심 원리증명에 사용되는 도구마르코프 부등식체비셰프 부등식→ 이들로부터 확률수렴이 유도됨예제

관련 성질확률수렴이면 분포수렴이 따라올 수 있음 (항상은 아님)확률수렴은 거의 모든 수렴 개념보다 약하지만,확률론에서 널리 쓰임 (특히 대수의 법칙과 함께)예제

코시-슈바르츠 부등식(Cauchy–Schwarz Inequality)은기댓값과 분산, 공분산 계산의 기초가 되는 매우 중요한 불평등식이다.선형대수에서도 자주 등장하지만, 확률 이론에서도 핵심적으로 쓰인다.공식 (확률 변수 버전) 두 변수의 곱의 기댓값(상관도)이, 각각의 제곱 기댓값(분산 수준)의 곱의 제곱근보다 크지 않음벡터 내적의 확률 버전이 부등식은(벡터 내적 ≤ 노름 곱)이라는 선형대수의 공식과 완전히 같은 구조이다.→ 확률 이론에서는 내적 = 기대값, 노름 = 제곱기댓값의 제곱근으로 해석동등 조건 즉, X = aY 같은 형태일 때만 부등식이 등호가 됨활용상관계수 정의에서 증명에 사용:불확실성 하한 증명회귀 분석의 수학적 기반내적 공간 성질 이해예제 → 두 값이 같음 → X, Y는 선형 관계

체비셰프 부등식(Chebyshev Inequality)은확률 분포의 기댓값과 분산만 알면, 확률 변수가 기댓값에서 얼마나 벗어날 수 있는지를 상한으로 제시해 주는 강력한 불평등식이다.공식 확률 변수가 평균에서 멀어질수록 (큰 k)→ 그럴 확률은 더 작아진다정확한 분포를 몰라도 적용 가능→ 분산만 존재하면 사용 가능하다. 예제 즉, 평균에서 3σ 이상 벗어날 확률은 최대 11.1%

마르코프 부등식(Markov Inequality)은확률 변수의 기댓값만으로 어떤 값 이상이 될 확률의 상한을 구할 수 있는 중요한 불평등식이다. 특히 확률의 tail bound (꼬리 확률 상한)를 제공해 준다.공식 기댓값이 작을수록, 큰 값을 가질 확률은 작다는 걸 수식으로 표현  X의 평균이 2라면, X ≥1 0일 확률은 최대 2/10 = 0.22/10 = 0.2실제 확률은 이보다 작을 수 있음 → 상한(bound)이기 때문이다. 예제