Summary  
This chapter explains how to estimate the optimal parameters of a linear regression model by minimizing the sum of squared residuals using the ordinary least squares method and solving the normal equation.

General domain of usage  
Machine learning predictive modeling

We weten nu dat lineaire regressie gewoon een lijn is die het beste bij de data past. Maar hoe bepaal je welke de juiste is?

Je kunt het verschil berekenen tussen de voorspelde waarde en de werkelijke doelwaarde voor elk datapunt in de trainingsset.   
Deze verschillen worden **residuen** (of **fouten**) genoemd. Het doel is om de residuen zo klein mogelijk te maken.   

## Kleinste-kwadratenmethode
De standaardbenadering is de **Kleinste-kwadratenmethode** (**OLS**):   
Neem elk residu, **kwadrateer het** (voornamelijk om het teken van een residu te elimineren), en **sommeer ze allemaal**.  
Dit wordt **SSR** (**Sum of squared residuals**) genoemd. De taak is om de parameters te vinden die de SSR minimaliseren.

## Normaalvergelijking
Gelukkig hoeven we niet alle lijnen te proberen en de SSR voor elke lijn te berekenen. De taak om de SSR te minimaliseren heeft een wiskundige oplossing die niet veel rekenkracht vereist.  
Deze oplossing wordt de **Normaalvergelijking** genoemd.

Deze vergelijking geeft ons de parameters van een lijn met de kleinste SSR.  
Begrijp je niet precies hoe het werkt? Geen zorgen! Het is vrij complexe wiskunde. Maar je hoeft de parameters niet zelf te berekenen. Veel bibliotheken hebben lineaire regressie al geïmplementeerd. 


Bekijk de bovenstaande afbeelding. Welke regressielijn is beter?

Lineaire regressie is een cruciaal concept binnen voorspellende analyse. Het wordt veel gebruikt door data scientists, data-analisten en statistici omdat het eenvoudig te bouwen en te interpreteren is, maar krachtig genoeg voor veel toepassingen.

Laten we beginnen met het eenvoudigste lineaire regressiemodel. U leert het concept achter lineaire regressie en hoe u voorspellingen kunt doen in Python.

De meeste voorspellingstaken in de praktijk omvatten meer dan één kenmerk. U leert hoe u lineaire regressie met meerdere kenmerken kunt toepassen.

Een rechte lijn beschrijft de data niet altijd goed. Laten we leren hoe we een complexer model voor voorspelling kunnen bouwen. Daarvoor is polynomiale regressie geschikt.

Nu je weet hoe je meerdere lineaire regressiemodellen kunt bouwen, heb je een methode nodig om het beste model te selecteren. Dit is mogelijk met behulp van metrische gegevens. In deze sectie worden de meest gebruikte metrische gegevens en de uitdagingen bij het gebruik ervan toegelicht.

Het Vinden van de Parameters

Kleinste-kwadratenmethode

Normaalvergelijking

Quiz

1. Bekijk de bovenstaande afbeelding. Welke regressielijn is beter?