התפלגות רב-נורמלית

בתורת ההסתברות, התפלגות רב-נורמלית, או התפלגות גאוסיאנית רב-ממדית, (באנגלית: Multivariate normal distribution) היא הכללה של התפלגות נורמלית למשתנים מקריים רב-ממדיים. היא מוגדרת בתור וקטור משתנים מקריים, שכל צירוף לינארי שלו מתפלג נורמלית. ישנה גם הגדרה (כללית יותר) בשפה של פונקציות אופייניות (הקובעת את המשתנה).

להתפלגות רב-נורמלית מספר שימושים, כגון הוכחת טענות על התפלגות הממוצע וסטיית התקן של משתנים מקריים שווי התפלגות נורמלית; טענות אלו שימושיות במיוחד בסטטיסטיקה. ניתן גם לנסח את משפט הגבול המרכזי בגרסה רב-ממדית בעזרת התפלגות רב-נורמלית.

הגדרה

יהי $X=(X_{1},\dots ,X_{n})$ וקטור משתנים מקריים ממשיים. נאמר ש-$X$ מתפלג רב-נורמלית (או גאוסיאנית) אם לכל $a_{1},\dots ,a_{n}\in \mathbb {R}$ המשתנה המקרי (החד ממדי) $\langle {\bar {a}},{\bar {X}}\rangle =a_{1}X_{1}+\dots +a_{n}X_{n}$ מתפלג נורמלית, כלומר קיימים $\mu ,\sigma$ (תלויים ב-$a_{i}$) כך ש-$\langle {\bar {a}},{\bar {X}}\rangle \sim N(\mu ,\sigma ^{2})$.

אם $X$ משתנה רב-נורמלי, מסמנים $X\sim N({\bar {\mu }},V)$ כאשר ${\bar {\mu }}$ הוא וקטור התוחלות, ו-$V$ היא מטריצת השונויות המשותפות - $V_{i,j}=\operatorname {Cov} (X_{i},X_{j})$

תכונות

הפונקציה האופיינית

ניתן לאפיין את המשתנים המקריים הגאוסיאניים על בעזרת הפונקציה האופיינית שלהם: וקטור משתנים מקריים הוא גאוסיאני אם ורק אם הוא בעל פונקציה אופיינית:

$\varphi _{X}({\bar {a}})=e^{i\langle {\bar {\mu }},{\bar {a}}\rangle -{\frac {1}{2}}{\bar {a}}V{\bar {a}}^{t}}$

מטריצה השונויות $V$ היא חיובית.

בפרט, נובע שהמשתנים המקריים בלתי מתואמים אם ורק אם הם בלתי תלויים (מה שלא נכון באופן כללי).

לכסון

לכל משתנה מקרי רב-נורמלי $X$ קיימים משתנה מקרי $Y$ ומטריצה אורתוגונלית $A$ כך ש-$X={\bar {\mu }}+YA$, כאשר $Y_{i}\sim N(0,\lambda _{i})$ ו-$\lambda _{i}$ הם הערכים עצמיים של $V$ (מטריצת השונויות המשותפות).

בכיוון ההפוך, לכל משתנה מקרי רב-נורמלי $X$ ולכל מטריצה אורתוגונלית $A$, המשתנה המקרי $AX$ גם הוא רב נורמלי: $Y\sim N(A\mu ,V)$.

כדי להוכיח משפט זה, יש להפעיל לכסון אורתוגונלי על $V$ (בפרט, המטריצה $A$ נבחרת להיות המטריצה המלכסנת).

פונקציית צפיפות

כאשר מטריצת השונויות $V$ איננה מטריצה סינגולרית - כלומר כל ערכיה העצמיים $\lambda _{i}$ שונים מאפס, למשתנה הרב-נורמלי יש פונקציית צפיפות, הנתונה על ידי הנוסחא:

$f_{X}({\bar {x}})={\frac {1}{\sqrt {(2\pi )^{n}|V|}}}e^{-{\frac {1}{2}}({\bar {x}}-{\bar {\mu }}){V}^{-1}({\bar {x}}-{{\bar {\mu }})^{t}}}$

התפלגות רב-נורמלית סינגולרית

בדרך כלל מניחים כי מטריצת השונויות $V$ איננה מטריצה סינגולרית. כאמור, במקרה זה למשתנה הרב-נורמלי יש פונקציית צפיפות.

עם זאת, כאשר מורידים את ההנחה האחרונה (כלומר, יש ערכים עצמיים אפס), מתקבל משתנה מקרי רב-נורמלי סינגולרי. ההגדרה בעזרת הפונקציה האופיינית היא כללית יותר (כלומר, תקפה גם במקרה הסינגולרי). במקרה זה אין פונקציית צפיפות (ביחס למידת לבג) - ערכיה כל פונקציית צפיפות ייקבעו על ידי פחות מ-$n$ משתנים, ואינטגרל של פונקציה כזו הוא אפס ולא 1, כנדרש מפונקציית צפיפות.

בכל זאת, ניתן להגדיר מידות אחרות (על תת-מרחב $\operatorname {rank} (V)$-ממדי של $\mathbb {R} ^{n}$) ואז מוגדרת פונקציית צפיפות עבור משתנה מקרי ביחס למידה החדשה.

יישומים

בעזרת התפלגות רב-נורמלית, ניתן להוכיח תוצאות חשובות בסטטיסטיקה.

למשל, אם $X_{1},X_{2},\dots$ משתנים מקריים בלתי תלויים המתפלגים $N(0,1)$, נסמן ${\bar {X}}_{n}={\frac {X_{1}+\dots +X_{n}}{n}}$ ו-$S_{n}={\frac {1}{n-1}}\sum _{i=1}^{n}{(X_{i}-{\bar {X}}_{n}^{2})}$. אז מתקיים ${\bar {X}}_{n}/{\sqrt {\frac {S_{n}}{n}}}\sim t_{n-1}$, כלומר מתפלג סטודנט עם $n-1$ דרגות.