הסתברות: משתנים מקריים והתפלגויות

סיכום שבוע 3 - מבוסס על הרצאות הקורס

(c) Igor Kleiner igkleiner@gmail סיכום נוח ושימושי

1. משתנה מקרי (מ"מ)

הגדרת משתנה מקרי

מוטיבציה:

מרחב המדגם יכול להכיל תוצאות שאינן מספרים (כמו "עץ" או "פלי"). כדי לעשות מתמטיקה, אנו חייבים לתרגם תוצאות פיזיות למספרים ממשיים.

הגדרה: משתנה מקרי אינו משתנה, אלא פונקציה הממפה את מרחב המדגם לישר הממשי.

$$X: \Omega \to \mathbb{R}$$

המ"מ משייך לכל תוצאה במרחב המדגם (מאורע פשוט) $\omega \in \Omega$ ערך ממשי $X(\omega)$. נסמן מ"מ באותיות גדולות (כגון $X, Y$).

דוגמאות בסיסיות

דוגמא 1: ספירת ראשי מטבע

ניסוי: הטלת מטבע פעמיים.
$X$ = מספר הפעמים שנקבל "ראש" (H).

  • $X(TT) = 0$
  • $X(TH) = 1$
  • $X(HT) = 1$
  • $X(HH) = 2$

דוגמא 2: הפרש עץ/ראש

ניסוי: הטלת מטבע פעמיים.
$Y$ = מספר עץ (T) מינוס מספר ראש (H).

  • $Y(TT) = 2 - 0 = 2$
  • $Y(TH) = 1 - 1 = 0$
  • $Y(HT) = 1 - 1 = 0$
  • $Y(HH) = 0 - 2 = -2$

2. פונקציית הסתברות של מ"מ בדיד

הגדרה ותכונות

מוטיבציה:

לאחר שהמרנו תוצאות למספרים בעזרת המשתנה המקרי, אנו רוצים לדעת מהי ההסתברות לקבל כל אחד מהערכים הללו.

הגדרה: עבור מ"מ בדיד (המקבל מספר סופי או בן-מניה של ערכים), הפונקציה מציינת מהי ההסתברות שהמ"מ $X$ יקבל את הערך $x$. תסומן ב-$P(X=x)$ או $P_X(x)$.

משפט - תכונות הפונקציה:

$$0 \le P_X(x) \le 1$$ $$\sum_{x} P_X(x) = 1$$

דוגמא - הטלת שתי קוביות

נסמן ב-$X$ את סכום התוצאות בהטלת שתי קוביות הוגנות. להלן התפלגות התוצאות:

הדגמה אינטראקטיבית: התפלגות סכום 2 קוביות

חישובי הסתברות והסתברות מותנית

בהינתן פונקציית ההסתברות של הקוביות, ניתן לחשב:

3. פונקציית ההתפלגות המצטברת (CDF)

הגדרת פונקציית ההתפלגות

מוטיבציה:

במקום לסכום בכל פעם ערכים בודדים כדי לדעת מה ההסתברות שהתוצאה תהיה "עד לערך מסוים", אנו שומרים פונקציה שכבר מחזיקה את הסכום המצטבר. שימושי מאוד למציאת הסתברויות של טווחים.

הגדרה: הפונקציה המצטברת $F_X(a)$ מסמנת את ההסתברות שהמשתנה המקרי $X$ יקבל ערך קטן או שווה ל-$a$.

$$F_X(a) = P(X \le a) = \sum_{x \le a} P(X=x)$$

תכונות הפונקציה המצטברת

דוגמה: מעבר מפונקציית הסתברות (PMF) להתפלגות מצטברת (CDF)

נתונה פונקציית ההסתברות הבאה:

$x$ 0 10 25
$P_X(x)$ 0.1 0.4 0.5

פונקציית ההתפלגות המצטברת תוגדר כפונקציית מדרגות:

$$ F_X(a) = \begin{cases} 0 & a < 0 \\ 0.1 & 0 \le a < 10 \\ 0.5 & 10 \le a < 25 \\ 1 & 25 \le a \end{cases} $$

4. תזכורת מתמטית

מוטיבציה:

משתנים מקריים בדידים יכולים לקבל מספר אינסופי (בן מנייה) של ערכים (למשל, כמה פעמים נטיל מטבע עד שנקבל עץ?). לצורך זה, אנו צריכים לדעת לחשב טורים אינסופיים.

סכום סדרה חשבונית

$$S_n = \frac{n}{2}(a_1 + a_n)$$

סכום טור הנדסי אינסופי

עבור $|q| < 1$:

$$\sum_{i=0}^{\infty} q^i = \frac{1}{1-q}$$
$$\sum_{i=a}^{\infty} q^i = \frac{q^a}{1-q}$$

טור טיילור של הפונקציה האקספוננציאלית

$$\sum_{i=0}^{\infty} \frac{x^i}{i!} = e^x$$

נוסחת הבינום וקירוב סטירלינג

בינום של ניוטון:

$$(x+y)^n = \sum_{i=0}^{n} \binom{n}{i} x^{n-i} y^i$$

קירוב סטירלינג לעצרת גדול:

$$n! \approx \sqrt{2\pi n} \left(\frac{n}{e}\right)^n$$

5. תרגילים מסכמים

מציאת קבוע חסר בפונקציית הסתברות

תרגיל: מ"מ $X$ נתון בעזרת פונקציית ההסתברות: $P(X=a) = \frac{c}{a}$ עבור $a=1, 2, 3, 4$. מצאו את $c$.

פתרון:

אנו יודעים שסכום כל ההסתברויות שווה ל-1. לכן:

$$\frac{c}{1} + \frac{c}{2} + \frac{c}{3} + \frac{c}{4} = 1$$ $$c\left(1 + 0.5 + 0.333 + 0.25\right) = 1 \implies \frac{25c}{12} = 1 \implies c = \frac{12}{25}$$

מ"מ עם אינסוף ערכים (טור הנדסי)

תרגיל: נתונה פונקציית הסתברות: $P(X=a) = \left(\frac{2}{3}\right)^a \cdot \frac{1}{3}$ עבור $a=0, 1, 2, \dots$.
חשבו את $P(X > 4)$.

פתרון:

נשתמש בנוסחת סכום של טור הנדסי אינסופי החל מאיבר $a=5$:

$$P(X > 4) = \sum_{a=5}^{\infty} \frac{1}{3}\left(\frac{2}{3}\right)^a = \frac{1}{3} \cdot \frac{\left(\frac{2}{3}\right)^5}{1 - \frac{2}{3}} = \frac{1}{3} \cdot \frac{\left(\frac{2}{3}\right)^5}{\frac{1}{3}} = \left(\frac{2}{3}\right)^5$$

בונוס - הסתברות מותנית: חשבו $P(X > 15 | X > 10)$

$$P(X > 15 | X > 10) = \frac{P(X > 15 \cap X > 10)}{P(X > 10)} = \frac{P(X > 15)}{P(X > 10)} = \frac{(2/3)^{16}}{(2/3)^{11}} = \left(\frac{2}{3}\right)^5$$

מילון מושגים

משתנה מקרי (RV)

פונקציה $X: \Omega \to \mathbb{R}$ המשייכת לכל תוצאה במרחב המדגם ערך ממשי. זהו אינו "משתנה" במובן הרגיל, אלא פונקציית מיפוי.

פונקציית הסתברות (PMF)

למשתנה בדיד, פונקציה $P(X=x)$ המחזירה את ההסתברות המדויקת לקבלת הערך המספרי $x$. סכום כל הערכים שלה שווה ל-1.

פונקציית התפלגות מצטברת (CDF)

פונקציה $F_X(a) = P(X \le a)$ הסוכמת את כל ההסתברויות עד לערך $a$. תמיד לא-יורדת וחסומה בין 0 ל-1.

הסתברות מותנית

ההסתברות שמאורע א' יקרה בהינתן שמאורע ב' כבר קרה. מחושבת כיחס בין החיתוך של המאורעות להסתברות של מאורע התנאי: $P(A|B) = \frac{P(A \cap B)}{P(B)}$.

שאלות בדיקה עצמית

בדקו את הבנתכם. בחרו בתשובה הנכונה ולחצו על הכפתור כדי לגלות את ההסבר.

1. מהי ההגדרה המתמטית המדויקת של "משתנה מקרי"?

2. עבור פונקציית התפלגות מצטברת $F_X(a)$, כיצד נחשב את ההסתברות $P(2 < X \le 5)$?

3. אם $X$ הוא משתנה מקרי בדיד, למה תמיד שווה הביטוי $\sum_x P(X=x)$ (סכום כל ההסתברויות של כל הערכים האפשריים)?