[프로젝트 스터디] Feature Scaling (Min-Max scaling)

 

👉 이 포스팅에서는..

프로젝트를 진행하며, 다양한 데이터로 피처를 생성하다보니, 서로 다른 범위와 척도를 가졌다는 부분이 걱정이 되었다.
이와 관련하여 스케일링에 대해 스케일링하고, 프로젝트에 적용할 방안을 고민해보기로 했다
-
해당 포스팅에서는 피처 스케일링의 기본적인 개념과 예제를 통해 다양한 스케일링 법을 익혀본다.
라이브러리는 사이킷런을 사용한다.

 

🧐 Feature Scaling이란?

• 값들을 동일한 범위와 척도내에 넣는 것으로,
• 하나의 변수가 다른 변수에 의해 영향력을 발휘하지 못하는 것을 막는 방법이다

 

🧐 Scaling이 왜 필요할까?

• 대부분의 경우 데이터 셋은 각각의 규모(magnitude), 단위, 범위가 매우 다를 것이다
• 대부분의 머신러닝 알고리즘은 두 데이터 간 거리를 측정시, 유클리디안 거리를 쓰는데 이때 문제가 발생한다.
• 만약, 스케일링을 하지 않으면 이러한 알고리즘이 규모가 큰 피처들에 집중하게 되는데, 특히 단위가 큰 차이가 나는 경우 결과가 매우 달라질 수 있다. (예, 5kg과 5000mg의 차이)
• 따라서, 모든 피처를 같은 레벨의 척도에 두어야 하는데 이것이 스케일링이다.

---

📦 Scaling이 중요한 알고리즘

• k-최근접 이웃(k-nearest neighbors) : 유클리디안 거리 척도를 쓰는 해당 알고리즘은 규모가 큰 변수에 매우 예민하다, 따라서 모든 피처의 중요도를 동일하게 맞춰 주어야 한다
• 주성분 분석(PCA) : PCA는 가장 큰 분산을 갖는 피쳐를 찾으려하는데, 이 분산이 규모가 큰 치러에서 훨씬 크게 나타난다. 이는 주성분석이 큰 규모의 피쳐들에 편향되게 만든다.
• 경사하강법의 속도 : 스케일링을 통해 경사하강법의 속도를 높일 수 있다. 규모(magnitude)가 커지면 경사하강의 속도가 느려지므로, 변수의 범위가 일정하지 않으면 속도 측면에서 비효율적이라고 할 수 있다.

 

📦 Scaling이 필수가 아닌 알고리즘

• 트리 기반 모델 : 트리 모델들은 거리에 기반을 두지 않았으며 다양한 범위(varying range)를 가진 피처를 다룰 수 있기에 트리 모델 사용시에는 스케일링이 필수가 아니다
• 선형 판별 분석(LDA), 나이브 베이즈 : 이 알고리즘은 이러한 스케일링 관련 문제를 다룰 수 있게 디자인된 알고리즘이다. 따라서 피처에 중요도를 계산에 포함하기에, 이 경우 스케일링이 그렇게 큰 효과가 없을 수 있다

 

📦 (참고) 경사하강과 스케일링

아래 그림을 보면 왼쪽은 스케일링이 되지 않은 경우, 오른쪽은 스케일링으로 두 변수의 범위를 맞춰준 모습이다.

왼쪽의 경우 경사 하강이 보다 안정적으로(?) 이루어지고 있음을 알 수 있다.

---

 

🧐 SciKit-Learn libraries 활용한 Min-Max Scaling

📦 데이터 확인하기

• Age 컬럼과 Estimated Salary 컬럼의 스케일이 서로 다름을 알 수 있다.
• 이러한 경우 스케일링이 필요할 수 있다.

import matplotlib.pyplot as plt
import numpy as np
import pandas as pd
dataset= pd.read_csv("C:\data/data.csv")
dataset[:5]

 

 

📦 Min-Max scaling

스케일링에는 다양한 방법이 있는데, 이번 시간에는 Min-Max scaling을 살펴본다

 

• min-max scaling은 정규화의 한 유형으로, 데이터의 범위를 0과 1 사이의 특정한 값으로 축소하는 것이다
• 본 데이터의 최소값이 0, 최대값이 1로 지정되고 그 사이의 값이 자동으로 축소된다

import numpy as np
import seaborn as sns
import matplotlib.pyplot as plt
from sklearn.preprocessing import minmax_scale

# 랜덤한 값을 고정
np.random.seed(0)

# 오리지널 데이터를 랜덤 데이터 1000개로 만듦
original_data = np.random.exponential(size = 1000)

# 0~1 사이로 최소최대정규화 진행
scaled_data = minmax_scale(original_data)

# 비교를 위한 시각화
fig, ax=plt.subplots(1,2)

sns.distplot(original_data, ax=ax[0], color='y')
ax[0].set_title("Original Data")

sns.distplot(scaled_data, ax=ax[1])
ax[1].set_title("Scaled data")
plt.show()

💜 X 축 값의 변화를 확인하세요!

 

 

 

 

 

참고 자료

https://rahul-saini.medium.com/feature-scaling-why-it-is-required-8a93df1af310