Γιατί χρησιμοποιείται η συνήθης μέθοδος των τετραγώνων σε γραμμική παλινδρόμηση;

Απάντηση:

Αν οι υποθέσεις Gauss-Markof κατέχουν τότε το OLS παρέχει το χαμηλότερο τυπικό σφάλμα οποιουδήποτε γραμμικού εκτιμητή, ώστε ο καλύτερος γραμμικός αμερόληπτος εκτιμητής

Εξήγηση:

Με βάση αυτές τις υποθέσεις

1. Οι συντελεστές παράμετροι είναι γραμμικές, αυτό σημαίνει ακριβώς αυτό # beta_0 και beta_1 # είναι γραμμικά αλλά το #Χ# η μεταβλητή δεν χρειάζεται να είναι γραμμική μπορεί να είναι # x ^ 2 #

2. Τα δεδομένα έχουν ληφθεί από τυχαίο δείγμα

3. Δεν υπάρχει τέλεια πολυ-κολλεξιμότητα, έτσι ώστε δύο μεταβλητές δεν είναι απόλυτα συσχετισμένες.

4. #ΕΕ#/# x_j) = 0 # σημαίνει ότι η υποθετική προϋπόθεση είναι μηδέν, πράγμα που σημαίνει ότι το # x_j # οι μεταβλητές δεν παρέχουν πληροφορίες σχετικά με το μέσο όρο των μη παρατηρούμενων μεταβλητών.

5. Οι διαφορές είναι ίσες για κάθε δεδομένο επίπεδο #Χ# δηλ. #var (u) = sigma ^ 2 #

Στη συνέχεια, OLS είναι ο καλύτερος γραμμικός εκτιμητής στον πληθυσμό των γραμμικών εκτιμητών ή του (Best Linear Impartiale Estimator) BLUE.

Εάν έχετε αυτήν την πρόσθετη υπόθεση:

1. Οι διαφορές κατανέμονται κανονικά

Στη συνέχεια, ο εκτιμητής OLS γίνεται ο καλύτερος εκτιμητής, ανεξάρτητα αν πρόκειται για γραμμικό ή μη γραμμικό εκτιμητή.

Αυτό ουσιαστικά σημαίνει ότι εάν οι παραδοχές 1-5 κατέχουν τότε το OLS παρέχει το χαμηλότερο τυπικό σφάλμα οποιουδήποτε γραμμικού εκτιμητή και αν το hold 1-6 παρέχει το χαμηλότερο τυπικό σφάλμα οποιουδήποτε εκτιμητή.