חסם צ'פמן-רובינס

בתורת האמידה ובסטטיסטיקה, חסם צ'פמן-רובינס (Chapman-Robbins Bound; לעיתים חסם המרסלי-צ'פמן-רובינס) הוא חסם תחתון על השונות של אומדים של פרמטרים דטרמיניסטיים. חסם זה הינו הכללה של חסם קרמר-ראו, ובהשוואה אליו - הוא הדוק יותר ומתאים למגוון רחב יותר של בעיות. עם זאת, חישובו לרוב מסובך יותר.

החסם נגזר לראשונה ובאופן בלתי-תלוי על ידי ג'ון המרסלי ב-1950 ועל ידי דאגלס צ'פמן והרברט רובינס ב-1951. זהו מקרה פרטי של חסם ברנקין (Barankin) המורכב יותר.

החסם

יהי $\theta$ פרמטר דטרמיניסטי לא-ידוע, ויהיה $T(X)$ אומד של פונקציה כלשהי של הפרמטר, $\psi (\theta )$. יהי $p(x;\theta )$. הפילוג של $X$ (שתלוי ב-$\theta$), ונניח כי הוא מוגדר היטב וחיובי לכל $x$ ולכל $\theta$.

אם $T(X)$ הוא אומד חסר-הטיה של $\psi (\theta )$, כלומר:

$\mathrm{E}[T(X)]=\psi (\theta )\mathrm{\forall }\theta$

אז לפי חסם צ'פמן-רובינס:

$Var(T(X))\ge \underset{h}{\sup }\frac{{[\psi (\theta +h)-\psi (\theta )]}^2}{E{[\frac{p(x;\theta +h)}{p(x;\theta )}-1]}^2}$.

למעשה, אי השוויון (ללא הוצאת הסופרמום) מתקיים לכל $h$, ולכן החסם ההדוק ביותר הוא כאשר הביטוי מקבל את הסופרמום שלו לפי $h$. התנאי לקיומו של החסם הוא שהתומך של $p(x;\theta +h)$ יהיה מוכל בתומך של $p(x;\theta )$.

הקשר לחסם קרמר-ראו

חסם צ'פמן-רובינס (הביטוי ללא הסופרמום) מתכנס לחסם קרמר-ראו כאשר $h\to 0$, בהנחה שהתנאים הרגולריים הדרושים מתקיימים (ראו בערך). מתוך כך, חסם צ'פמן-רובינס הוא תמיד הדוק לכל הפחות כמו קרמר-ראו. יתר על-כן, חסם צ'פמן-רובינס קיים תחת תנאים רגולריים חלשים משמעותית מאלו של חסם קרמר-ראו. כך למשל, להוכחת החסם לא נדרש כי הפילוג $p(x;\theta )$ יהיה גזיר. במקרים כאלו, האינפורמציה של פישר לא מוגדרת, ולכן חסם קרמר-ראו לא קיים.

הוכחת החסם

$T(X)$ הוא משערך חסר-הטיה, ולכן מתקיים:

$\int T(x)\cdot p(x;\theta )dx=\psi (\theta )$

$\int T(x)\cdot p(x;\theta +h)dx=\psi (\theta +h)$

חיסור המשוואות:

$\int T(x)\cdot (p(x;\theta +h)-p(x;\theta ))dx=\psi (\theta +h)-\psi (\theta )$

בנוסף מתקיים:

$\int \psi (\theta )\cdot (p(x;\theta +h)-p(x;\theta ))dx=\psi (\theta )\cdot \int (p(x;\theta +h)-p(x;\theta ))dx=\psi (\theta )\cdot (1-1)=0$

נחסיר בין שתי המשוואות האחרונות, לקבלת:

$\int (T(x)-\psi (\theta ))\cdot \frac{p(x;\theta +h)-p(x;\theta )}{p(x;\theta )}\cdot p(x;\theta )dx=\psi (\theta +h)-\psi (\theta )$

כלומר:

$\mathrm{E}[(T(X)-\psi (\theta ))\cdot (\frac{p(x;\theta +h)}{p(x;\theta )}-1)]=\psi (\theta +h)-\psi (\theta )$

העלאת המשוואה בריבוע ואי-שוויון קושי-שוורץ יניבו:

$(\psi (\theta +h)-\psi (\theta ){)}^2=\mathrm{E}{[(T(X)-\psi (\theta ))\cdot (\frac{p(x;\theta +h)}{p(x;\theta )}-1)]}^2\le \mathrm{E}[(T(X)-\psi (\theta ){)}^2]\cdot \mathrm{E}[(\frac{p(x;\theta +h)}{p(x;\theta )}-1{)}^2]$

ומכאן:

$Var(T(X))\ge \frac{{[\psi (\theta +h)-\psi (\theta )]}^2}{(\frac{p(x;\theta +h)}{p(x;\theta )}-1{)}^2}$

שזהו החסם המבוקש.

ראו גם

• חסם קרמר-ראו
• תורת האמידה

לקריאה נוספת

• Hammersley, J. M. (1950), "On estimating restricted parameters", Journal of the Royal Statistical Society, Series B 12 (2): 192–240.
• Chapman, D. G.; Robbins, H. (1951), "Minimum variance estimation without regularity assumptions", Annals of Mathematical Statistics 22 (4): 581–586.
• Lehmann, E. L.; Casella, G. (1998), Theory of Point Estimation (2nd ed.), Springer.

חסם_צ'פמן-רובינס13804602Q5073346