KNeighborsClassifier

La implementación de k-Nearest Neighbors es bastante sencilla. Solo es necesario importar y utilizar la clase KNeighborsClassifier.

Una vez importada la clase y creado un objeto de la clase de la siguiente manera:

# Importing the class
from sklearn.neighbors import KNeighborsClassifier
knn = KNeighborsClassifier(n_neighbors=3)

Es necesario proporcionarle los datos de entrenamiento utilizando el método .fit():

knn.fit(X_scaled, y)

¡Eso es todo! Ahora es posible predecir nuevos valores.

y_pred = knn.predict(X_new_scaled)

Escalado de los datos

Sin embargo, es importante recordar que los datos deben estar escalados. StandardScaler se utiliza comúnmente para este propósito:

Debe calcular $\bar x$ (media) y $s$ (desviación estándar) en el conjunto de entrenamiento utilizando el método .fit() o .fit_transform(). Este paso garantiza que los parámetros de escalado se deriven de los datos de entrenamiento.

Cuando tenga un conjunto de prueba para predecir, debe usar el mismo $\bar x$ y $s$ para preprocesar estos datos usando .transform(). Esta consistencia es crucial porque asegura que los datos de prueba se escalen de la misma manera que los datos de entrenamiento, manteniendo la integridad de las predicciones del modelo.

# Importing the class
from sklearn.preprocessing import StandardScaler

scaler = StandardScaler()
# Calculating x̄ and s and scaling `X_train`
X_train_scaled = scaler.fit_transform(X_train)
# Scaling `X_test` with x̄ and s calculated in the previous line
X_test_scaled = scaler.transform(X_test)

Si utiliza diferentes $\bar x$ y $s$ para el conjunto de entrenamiento y el conjunto de prueba, probablemente sus predicciones serán peores.

Ejemplo

Exploremos un ejemplo sencillo donde buscamos predecir si una persona disfrutará Star Wars VI en función de sus calificaciones para Star Wars IV y V. Los datos se toman de The Movies Dataset con preprocesamiento adicional. Se considera que una persona disfruta Star Wars VI si le da una calificación mayor a 4 (de 5).

Después de entrenar nuestro modelo, haremos predicciones para dos individuos del conjunto de prueba. El primer individuo califica Star Wars IV y V con 5 y 5, respectivamente, mientras que el segundo los califica con 4.5 y 4.