Kuten aiemmissa luvuissa on esitetty, mallin ennusteet voivat vaihdella riippuen k-arvosta (naapureiden määrä). k-NN-mallia rakennettaessa on tärkeää valita sellainen k-arvo, joka tuottaa parhaan suorituskyvyn.

Yleinen lähestymistapa on käyttää ristivalidointia mallin suorituskyvyn arviointiin. Voit suorittaa silmukan ja laskea ristivalidointipisteet useille k-arvoille, ja valita sitten sen, jolla on korkein pistemäärä. Tämä on laajimmin käytetty menetelmä.

Tämän toteuttamiseen sklearn tarjoaa kätevän työkalun: GridSearchCV-luokan.

param_grid-parametri ottaa sanakirjan, jossa avaimet ovat parametrien nimiä ja arvot ovat listoja kokeiltavista vaihtoehdoista. Esimerkiksi, jos haluat testata 1-arvoja väliltä 99–n_neighbors, voit kirjoittaa:

param_grid = {'n_neighbors': range(1, 100)}

Kun kutsut .fit(X, y)-metodia GridSearchCV-oliolle, se etsii parhaan parametrin parametriverkosta ja kouluttaa mallin uudelleen koko aineistolla käyttäen näitä parhaita parametreja.

Voit tarkastella parasta pistemäärää .best_score_-attribuutilla ja tehdä ennusteita optimoidulla mallilla käyttämällä .predict()-metodia. Vastaavasti voit hakea parhaan mallin itsessään .best_estimator_-attribuutilla.