יהי X משתנה מקרי חיובי. אזי קצת רקע בהסתברות חסם של Markov Markov 1856-1922 יהי X משתנה מקרי חיובי. אזי עבור אינטואיציה: אם ממוצע ציונים הוא a אזי לא יכול להיות שיותר מחצי הציונים גדולים מ- 2a
חסם של Chebychev יהי X משתנה מקרי. אזי Chebychev הוכחה: לפי Markov
ניסוי עם הצלחה בהסתברות p וכשלון בהסתברות q=1-p דוגמא: ניסוי ברנולי ניסוי עם הצלחה בהסתברות p וכשלון בהסתברות q=1-p Nicolaus Bernoulli 1623-1708
m נסיונות ברנולי בלתי-תלויים מספר ההצלחות
חסם של Chebychev בהסתברות לפחות Y/m -קרוב ל- p
להטיל מטבע m פעמים Y מספר ההצלחות משפט: עבור בהסתברות לפחות Y/m -קרוב ל- p משפט שרנוף: עבור בהסתברות לפחות Y/m -קרוב ל- p
בהסתברות לפחות Y/m -קרוב ל- p חסם של Chebychev חסם של Chernoff Herman Chernoff בהסתברות לפחות Y/m -קרוב ל- p
חסם של Chernoff עבור משתנים מקריים בלתי תלויים שמקיימים ו- ועבור הוכחה: נוכיח נגדיר אזי צריך להוכיח
צריך להוכיח לפי Markov מספיק להוכיח
מספיק להוכיח
להטיל מטבע m פעמים Y מספר ההצלחות משפט: עבור בהסתברות לפחות Y/m -קרוב ל- p
מקבלים דוגמאות של f(x) לפי התפלגות D נתונה פונקציה h(x) ורוצים לחשב שמוש 1 נגדיר משתנה מקרי פתרון לקבל m דוגמאות Y מספר הפעמים בהסתברות לפחות Y/m -קרוב ל- p
מקבלים דוגמאות של f(x) לפי התפלגות D נתונות פונקציות h1(x), h2(x),…, ht(x) ורוצים לחשב שמוש 2 דוגמאות לכל אחד. וס"כ אפשר ע"י הסתברות כישלון כל אחד הסתברות כישלון
במקום נבחר בהסתברות לפחות Yi/m -קרוב ל-
שמוש 3 משפט אם ניתנת ללמידה עבור אזי ניתנת ללמידה בזמן דוגמאות ו- יהי אלגוריתם ל- הוכחה נריץ את כולם במקביל עבור ולכל פלט נחשב בודאות וטעות . אם תפסיק ותוציא קלט בהסתברות
שמוש 4 משפט אם ניתנת ללמידה בזמן וודאות אזי ניתנת ללמידה בזמן יהי אלגוריתם ל- שמצליח עם הסתברות ומוציא הפטזה עם טעות הוכחה נריץ עותקים של A ההסתברות שאחד מהעותקים יצליח להוציא היפטזה ש- קרובה לפונקצית המטרה שאר ההוכחה כמו בהוכחה הקודמת...
למידתPAC חלשה בהסתברות לפחות למצא מה עם ?
משפט אם ניתן ללמוד C ב-PAC חלש אזי ניתן ללמוד C מדוגמאות