משפט התוחלת השלמה

משפט ההחלקה (הידוע גם בשם "משפט התוחלת השלמה") הוא משפט בתורת ההסתברות, לפיו התוחלת של התוחלת המותנית של משתנה מקרי כלשהו שווה לתוחלת של אותו משתנה מקרי.

בלשון מתמטית, אם $X$ הוא משתנה מקרי אינטגרבילי (כלומר $\operatorname {E} (|X|)<\infty$), ואם $Y$ הוא משתנה אקראי אחר (לאו דווקא אינטגרבילי), אזי מתקיים $\operatorname {E} (X)=\operatorname {E} (\operatorname {E} (X\mid Y))$.

שימושים

משפט ההחלקה שימושי כאשר נדרשים לטפל בתוחלת או בפונקציה הסתברותית אחרת של משתנה מקרי המוגדר בתורו על ידי מספר משתנים מקריים. חישוב התוחלת במקרה זה עשוי לדרוש חישוב של פונקציית צפיפות או הסתברות הכוללת מספר משתנים מקריים. השימוש בהתניה מפרק את חישוב התוחלת לשני חישובים המתבצעים באופן סדרתי: בחישוב התוחלת המותנית (הפנימית) אנו נדרשים לחשב תוחלת לפי הסתברות מותנית חד-ממדית, ולאחר מכן, התוחלת החיצונית מתבצעת על פונקציה של המשתנה $Y$ בלבד, גם היא לפי פונקציית הסתברות חד-ממדית.

דוגמה: יהי $X$ משתנה מקרי המקבל את הערכים $\pm 1$ בהסתברות שווה, ויהי $Y$ משתנה מקרי המקבל את הערכים $0,1$ בהסתברות שווה ובלתי תלוי ב-$X$. נרצה לחשב את התוחלת של המשתנה $Z=X^{Y}$, וחישוב ישיר יצריך מציאת פונקציית ההסתברות $\mathbb {P} \{Z=z\}=\mathbb {P} \{X^{Y}=z\}$. בשימוש במשפט ההחלקה נקבל: ${\mbox{E}}(Z)={\mbox{E}}({\mbox{E}}(X^{Y}|Y))$. נחשב תחילה את התוחלת הפנימית: ${\mbox{E}}(X^{Y}|Y)={\frac {1}{2}}(1+(-1)^{Y})$, מכיוון שכאשר ערכו של $Y$ידוע (מותנה), ישנן שני ערכים המתקבלים בהסתברות שווה. כעת נחשב את התוחלת החיצונית:

${\mbox{E}}(Z)={\mbox{E}}\left({\frac {1}{2}}(1+(-1)^{Y})\right)={\frac {1}{2}}+{\frac {1}{2}}{\mbox{E}}\left((-1)^{Y}\right)$

$={\frac {1}{2}}+{\frac {1}{2}}\left({\frac {1}{2}}\cdot (1+(-1))\right)={\frac {1}{2}}$

נשים לב כי לא נדרשנו לחשב את הפילוג של המשתנה המקרי $Z$.

הרחבות

בהנדסה, מושג ההחלקה מתייחס להוספת התניה במשתנה העזר וביצוע התוחלת לסילוק המשתנה לאחר החישוב (כלומר: "החלקתו"). אי לכך, ניתן להשתמש בעקרון ההחלקה גם לחישוב של פונקציות הסתברותיות שונות, לדוגמה: אם נניח כי קיימות פונקציות הצפיפות $f_{X}(x),f_{X,Y}(x,y)$, אזי לפי משפט ההסתברות השלמה נקבל כי: $f_{X}(x)=\int _{\Omega }f_{X,Y}(x,y)dy=\int _{\Omega }f_{X|Y}(x,y)f_{Y}(y)dy={\mbox{E}}(f_{X|Y}(x,Y))$, כאשר התוחלת האחרונה הינה לפי כלל ההסתברות של $Y$.

ניתן לנסח גרסה מוכללת עבור משפט ההחלקה למשתנים מקריים מותנים: יהיו $X,Y,Z$ שלושה משתנים מקריים, אזי התוחלת המותנית של $X$ בהינתן $Z$ ניתנת לביטוי על ידי התניה נוספת במשתנה $Y$, כלומר: ${\mbox{E}}(X|Z)={\mbox{E}}({\mbox{E}}(X|Y,Z)|Z)$. במקרה זה, התוחלת המותנית הינה פונקציה של המשתנה המקרי $Z$. גרסה מוכללת זו שימושית במיוחד בחישוב משערכים אופטימליים במובן שגיאה ריבועית ממוצעת, שכן המשערך של משתנה מקרי $X$ על-סמך משתנה אחר, $Y$, נתון במקרה זה על ידי התוחלת המותנית, ${\mbox{E}}(X|Y)$. במקרה זה, התניות נוספות לצורך חישוב המשערך ידרשו שימוש במשפט ההחלקה המוכלל.

הוכחת המשפט

להלן ההוכחה עבור משתנים מקריים בדידים:

$\operatorname {E} \left(\operatorname {E} (X|Y)\right)=\sum _{y}\operatorname {E} (X|Y=y)\cdot \operatorname {P} (Y=y)\,$

$=\sum _{y}\left(\sum _{x}x\cdot \operatorname {P} (X=x|Y=y)\right)\cdot \operatorname {P} (Y=y)\,$

$=\sum _{y}\sum _{x}x\cdot \operatorname {P} (X=x|Y=y)\cdot \operatorname {P} (Y=y)\,$

(לפי חוק בייס)

$=\sum _{y}\sum _{x}x\cdot \operatorname {P} (Y=y|X=x)\cdot \operatorname {P} (X=x)\,$

$=\sum _{x}x\cdot \operatorname {P} (X=x)\cdot \left(\sum _{y}\operatorname {P} (Y=y|X=x)\right).$

סכום ההסתברויות של המשתנה המקרי המותנה, $Y|X=x$ שווה לפי הגדרה ל-1, כלומר:

$\sum _{y}\operatorname {P} (Y=y|X=x)=1,$

ולכן,

$\sum _{x}x\cdot \operatorname {P} (X=x)\cdot \left(\sum _{y}\operatorname {P} (Y=y|X=x)\right)\,$ $=\sum _{x}x\cdot \operatorname {P} (X=x)\,$

$=\operatorname {E} (X)\,$

ההוכחה דומה עבור משתנים רציפים, אם מחליפים את ההסתברויות בצפיפויות, ואת הסכומים באינטגרלים.

ראו גם

• משפט השונות השלמה

לקריאה נוספת

• Papoulis, A., & Pillai, S. U. (2002). Probability, random variables, and stochastic processes. Tata McGraw-Hill Education.