human
Veuillez expliquer ce qu'est la "régression linéaire"
gpt
En statistique, la régression linéaire est une approche linéaire pour modéliser la relation entre une réponse scalaire et une ou plusieurs variables explicatives (également appelées variables dépendantes et indépendantes). Le cas d'une variable explicative est appelé régression linéaire simple ; pour plus d'un, le processus est appelé régression linéaire multiple. Ce terme est distinct de la régression linéaire multivariée, où plusieurs variables dépendantes corrélées sont prédites, plutôt qu'une seule variable scalaire.
Dans la régression linéaire, les relations sont modélisées à l'aide de fonctions prédictives linéaires dont les paramètres de modèle inconnus sont estimés à partir des données. De tels modèles sont appelés modèles linéaires. Le plus souvent, la moyenne conditionnelle de la réponse donnée aux valeurs des variables explicatives (ou prédicteurs) est supposée être une fonction affine de ces valeurs ; moins fréquemment, la médiane conditionnelle ou un autre quantile est utilisé. Comme toutes les formes d'analyse de régression, la régression linéaire se concentre sur la distribution de probabilité conditionnelle de la réponse compte tenu des valeurs des prédicteurs, plutôt que sur la distribution de probabilité conjointe de toutes ces variables, qui est le domaine de l'analyse multivariée.
La régression linéaire a été le premier type d'analyse de régression à être étudié rigoureusement et à être largement utilisé dans des applications pratiques. En effet, les modèles qui dépendent linéairement de leurs paramètres inconnus sont plus faciles à ajuster que les modèles qui sont liés de manière non linéaire à leurs paramètres et parce que les propriétés statistiques des estimateurs résultants sont plus faciles à déterminer.
La régression linéaire a de nombreuses utilisations pratiques. La plupart des applications appartiennent à l'une des deux grandes catégories suivantes :
Les modèles de régression linéaire sont souvent ajustés à l'aide de l'approche des moindres carrés, mais ils peuvent également être ajustés d'autres manières, par exemple en minimisant le "manque d'ajustement" dans une autre norme (comme avec la régression des écarts les moins absolus), ou en minimisant un pénalisé version de la fonction de coût des moindres carrés comme dans la régression de crête (pénalité de norme L2) et le lasso (pénalité de norme L1). Inversement, l'approche des moindres carrés peut être utilisée pour ajuster des modèles qui ne sont pas des modèles linéaires. Ainsi, bien que les termes « moindres carrés » et « modèle linéaire » soient étroitement liés, ils ne sont pas synonymes.