불순도


이렇게 하나의 특성에서 두 개의 서브셋으로 나누는 기준은 불순도(impurity)를 최소(또는, 순도, homogeneity를 최대)로 하는 것이다. 이렇게 불순도 즉, 불확실성이 감소하는 것을 정보이론에서는 정보획득(Information Gain)이라고 한다
> [ExcelsiorCJH/Hands-On-ML](https://github.com/ExcelsiorCJH/Hands-On-ML/blob/master/Chap06-Decision_Tree/Chap06-Decision_Tree.ipynb)
