Oppiskele Yksinkertaisen Neuroverkon Luominen

Tavoitteena on rakentaa perus-PyTorch-neuroverkko käyttäen digits dataset -aineistoa, joka on klassinen koneoppimisen aineisto. Tehtävänä on ennustaa numero (kohde) käsinkirjoitetun numeron kuvan perusteella, joka on esitetty pikseliarvojen joukkona (piirteet).

Aineiston yleiskatsaus

Digits dataset sisältää käsinkirjoitettuja numerokuvia, jotka on esitetty numeerisina pikseliarvoina. Jokainen havainto koostuu 64 piirteestä, jotka vastaavat pikselin intensiteettiä 8×8 harmaasävykuvasta. Kohdemuuttuja ('target'-sarake) edustaa numeroluokkaa (0-9), eli kertoo, mikä numero kuvassa on.

Ensimmäinen vaihe on lukea CSV-tiedosto ja erottaa piirteet (X) sekä kohdemuuttuja (y), joka on se arvo, jota pyritään ennustamaan:

import pandas as pd

digits_df = pd.read_csv('https://staging-content-media-cdn.codefinity.com/courses/1dd2b0f6-6ec0-40e6-a570-ed0ac2209666/section_3/digits.csv')
# Extract features and target
X = digits_df.drop(columns=["target"]).values
y = digits_df["target"].values

Malliluokan määrittely

Aluksi tulee tuoda kaikki tarvittavat PyTorch-moduulit (nn, F). nn-moduulia käytetään mallikerrosten ja arkkitehtuurien määrittelyyn, kun taas F-moduuli sisältää aktivointifunktioita, tappiollisia funktioita ja muita usein funktionaalisessa tyylissä käytettyjä apuvälineitä.

import torch.nn as nn
import torch.nn.functional as F

Nyt voidaan siirtyä malliluokan määrittelyyn:

class DigitsClassifier(nn.Module):
    ...

Mallin arkkitehtuuri

Koska kyseessä on yksinkertainen moniluokkainen luokittelutehtävä, riittää monikerroksinen perceptroni (MLP), jossa on 2 piilokerrosta.

class DigitsClassifier(nn.Module):
    def __init__(self, input_features, hidden1, hidden2, output_classes):
        super().__init__()
        # Define the layers
        self.fc1 = nn.Linear(input_features, hidden1)  # Input to first hidden layer
        self.fc2 = nn.Linear(hidden1, hidden2)  # First hidden to second hidden layer
        self.out = nn.Linear(hidden2, output_classes)  # Second hidden to output layer

Kuten jo tiedät, MLP koostuu täysin yhdistetyistä kerroksista (myös tiheät kerrokset), joissa piilokerrokset käsittelevät syöteominaisuuksia ja ulostulokerros antaa lopulliset luokkaprediktiot. Nämä täysin yhdistetyt kerrokset toteutetaan PyTorchissa nn.Linear -kerroksina.

Eteenpäinlevitys

Tämä .forward()-metodi määrittelee datan eteenpäinlevityksen mallin läpi.

def forward(self, x):
    # Pass data through layers with activation functions
    a1 = F.relu(self.fc1(x))  # First hidden layer with ReLU
    a2 = F.relu(self.fc2(a1))  # Second hidden layer with ReLU
    output = self.out(a2)          # Output layer (no activation for raw scores)
    return output

Syötetensori x kulkee ensin ensimmäisen täysin yhdistetyn kerroksen (fc1) läpi, jonka jälkeen käytetään ReLU-aktivointifunktiota epälineaarisuuden lisäämiseksi. Tämän jälkeen data kulkee toisen täysin yhdistetyn kerroksen (fc2) läpi, jälleen ReLU:n kanssa.

Lopuksi muunnettu data kulkee ulostulokerroksen (out) läpi, joka tuottaa raakatulokset (logitit) ulostuloluokille.

Mallin luominen

Koska malliluokka on nyt määritelty, voimme nyt määrittää mallin parametrit ja luoda mallin ilmentymän.

Samoin kuin piilotettujen kerrosten määrän kohdalla, piilokerrosten neuronien määrä valitaan tässä esimerkissä melko satunnaisesti: 32 ja 16 ensimmäiselle ja toiselle piilotetulle kerrokselle.

Tämän seurauksena syntyvä malli on rakenteeltaan seuraava:

Syötekerros: vastaa aineiston ominaisuuksien määrää (64 tässä aineistossa);
Piilokerrokset: satunnaiset neuronimäärät (32 ja 16);
Lähtökerros: vastaa luokkien määrää (10 numeroa).

Koko toteutus


              12345678910111213141516171819202122232425262728293031323334
            
import torch.nn as nn
import torch.nn.functional as F
import pandas as pd

digits_df = pd.read_csv('https://staging-content-media-cdn.codefinity.com/courses/1dd2b0f6-6ec0-40e6-a570-ed0ac2209666/section_3/digits.csv')
# Extract features and target
X = digits_df.drop(columns=["target"]).values
y = digits_df["target"].values

# Define the model class
class DigitsClassifier(nn.Module):
    def __init__(self, input_features, hidden1, hidden2, output_classes):
        super().__init__()
        # Define the layers
        self.fc1 = nn.Linear(input_features, hidden1)  # Input to first hidden layer
        self.fc2 = nn.Linear(hidden1, hidden2)         # First hidden to second hidden layer
        self.out = nn.Linear(hidden2, output_classes) # Second hidden to output layer

    def forward(self, x):
        # Pass data through layers with activation functions
        a1 = F.relu(self.fc1(x))  # First hidden layer with ReLU
        a2 = F.relu(self.fc2(a1))  # Second hidden layer with ReLU
        output = self.out(a2)          # Output layer (no activation for raw scores)
        return output
      
# Define model parameters
input_features = X.shape[1]  # Number of features (pixels)
hidden1 = 32  # Number of neurons in first hidden layer
hidden2 = 16  # Number of neurons in second hidden layer
output_classes = len(digits_df["target"].unique())  # Number of unique digits (0-9)
# Create an instance of the model
model = DigitsClassifier(input_features, hidden1, hidden2, output_classes)
# Display the model structure
print(model)

Oliko kaikki selvää?

Kiitos palautteestasi!

Osio 3. Luku 1

Kysy tekoälyä

Kysy mitä tahansa tai kokeile jotakin ehdotetuista kysymyksistä aloittaaksesi keskustelumme

Pyyhkäise näyttääksesi valikon

Aineiston yleiskatsaus

Ensimmäinen vaihe on lukea CSV-tiedosto ja erottaa piirteet (X) sekä kohdemuuttuja (y), joka on se arvo, jota pyritään ennustamaan:

import pandas as pd

digits_df = pd.read_csv('https://staging-content-media-cdn.codefinity.com/courses/1dd2b0f6-6ec0-40e6-a570-ed0ac2209666/section_3/digits.csv')
# Extract features and target
X = digits_df.drop(columns=["target"]).values
y = digits_df["target"].values

Malliluokan määrittely

import torch.nn as nn
import torch.nn.functional as F

Nyt voidaan siirtyä malliluokan määrittelyyn:

class DigitsClassifier(nn.Module):
    ...

Mallin arkkitehtuuri

Koska kyseessä on yksinkertainen moniluokkainen luokittelutehtävä, riittää monikerroksinen perceptroni (MLP), jossa on 2 piilokerrosta.

class DigitsClassifier(nn.Module):
    def __init__(self, input_features, hidden1, hidden2, output_classes):
        super().__init__()
        # Define the layers
        self.fc1 = nn.Linear(input_features, hidden1)  # Input to first hidden layer
        self.fc2 = nn.Linear(hidden1, hidden2)  # First hidden to second hidden layer
        self.out = nn.Linear(hidden2, output_classes)  # Second hidden to output layer

Eteenpäinlevitys

Tämä .forward()-metodi määrittelee datan eteenpäinlevityksen mallin läpi.

def forward(self, x):
    # Pass data through layers with activation functions
    a1 = F.relu(self.fc1(x))  # First hidden layer with ReLU
    a2 = F.relu(self.fc2(a1))  # Second hidden layer with ReLU
    output = self.out(a2)          # Output layer (no activation for raw scores)
    return output

Lopuksi muunnettu data kulkee ulostulokerroksen (out) läpi, joka tuottaa raakatulokset (logitit) ulostuloluokille.

Mallin luominen

Koska malliluokka on nyt määritelty, voimme nyt määrittää mallin parametrit ja luoda mallin ilmentymän.

Tämän seurauksena syntyvä malli on rakenteeltaan seuraava:

Syötekerros: vastaa aineiston ominaisuuksien määrää (64 tässä aineistossa);
Piilokerrokset: satunnaiset neuronimäärät (32 ja 16);
Lähtökerros: vastaa luokkien määrää (10 numeroa).

Koko toteutus


              12345678910111213141516171819202122232425262728293031323334
            
import torch.nn as nn
import torch.nn.functional as F
import pandas as pd

digits_df = pd.read_csv('https://staging-content-media-cdn.codefinity.com/courses/1dd2b0f6-6ec0-40e6-a570-ed0ac2209666/section_3/digits.csv')
# Extract features and target
X = digits_df.drop(columns=["target"]).values
y = digits_df["target"].values

# Define the model class
class DigitsClassifier(nn.Module):
    def __init__(self, input_features, hidden1, hidden2, output_classes):
        super().__init__()
        # Define the layers
        self.fc1 = nn.Linear(input_features, hidden1)  # Input to first hidden layer
        self.fc2 = nn.Linear(hidden1, hidden2)         # First hidden to second hidden layer
        self.out = nn.Linear(hidden2, output_classes) # Second hidden to output layer

    def forward(self, x):
        # Pass data through layers with activation functions
        a1 = F.relu(self.fc1(x))  # First hidden layer with ReLU
        a2 = F.relu(self.fc2(a1))  # Second hidden layer with ReLU
        output = self.out(a2)          # Output layer (no activation for raw scores)
        return output
      
# Define model parameters
input_features = X.shape[1]  # Number of features (pixels)
hidden1 = 32  # Number of neurons in first hidden layer
hidden2 = 16  # Number of neurons in second hidden layer
output_classes = len(digits_df["target"].unique())  # Number of unique digits (0-9)
# Create an instance of the model
model = DigitsClassifier(input_features, hidden1, hidden2, output_classes)
# Display the model structure
print(model)

Oliko kaikki selvää?

Kiitos palautteestasi!

Osio 3. Luku 1

Yksinkertaisen Neuroverkon Luominen

Aineiston yleiskatsaus

Malliluokan määrittely

Mallin arkkitehtuuri

Eteenpäinlevitys

Mallin luominen

Koko toteutus

Awesome!

Yksinkertaisen Neuroverkon Luominen

Aineiston yleiskatsaus

Malliluokan määrittely

Mallin arkkitehtuuri

Eteenpäinlevitys

Mallin luominen

Koko toteutus