מודל הריבועים הפחותים OLS

מודל יסודי באקונומטריקה – OLS

חוקרים מנסים למצוא היגיון בעולם ע"י קשרים בין אלמנטים, משתנים ומדדים.

תחילה החוקר מניח שיש משוואת אמת לאוכלוסיה – קשר בין משתנה מסביר למוסבר.

לרוב אנחנו מניחים קשר ליניארי.

לאחר מכן, מגדירים אומד – הקשר, המקדם, בין משתנה מסביר למוסבר.

אבל צריך לוודא שהאומד "עושה את העבודה" – כלומר מצליח לנבא את המוסבר.

בדיוק בשביל זה יש את שיטת OLS, הריבועים הפחותים.

מה זה בעצם "הריבועים הפחותים"?

מודל הריבועים הפחותים הוא מודל שאומר דבר מאוד פשוט: בואו נגדיר מהי "טעות".

טעות היא סטייה בין מה שהמודל מנבא, למה שהצלחנו להביא במחקר או הסקר שלנו.

טעות לכל כיוון, למעלה או למטה – היא טעות.

לכן זה לא מספיק רק "לחבר" את הטעויות.

צריך לוודא שהם יצטברו אחת על השניה, גם סטיה למעלה וגם למטה.

אז מה עושים?

מעלים בריבוע!

הטעות הריבועית תצטבר על עצמה, גם אם היא חיובית או שלילית.

אם הצלחנו לצמצם את הטעויות הריבועיות למינימום האפשרי – מצאנו את המודל הכי טוב.

משפט גאוס-מרקוב

חוקרים הצליחו להוכיח שהאומד שנובע ממודל הריבועים הפחותים, מצליח להגיע לאומד "טוב".

מה זה מבחינתם "טוב"?

אומד חסר הטיה: כלומר אם המחקר יחזור על עצמו מספיק פעמים, האומד ישאף לערך האמיתי שלו – באוכלוסיה.

אומד יעיל: סטיית התקן שלו נמוכה יחסית.

משפט גאוס מרקוב מוכיח שהאומד שנובע ממודל OLS הוא הכי יעיל מבין האומדים הליניארית, חסרי ההטיה.