Передумови

• Вступ до ML з використанням scikit-learn
• Лінійна регресія з Python

Класифікація — це задача з навчання з учителем. Її мета — передбачити клас, до якого належить екземпляр, на основі набору параметрів (ознак). Необхідно надати багато розмічених прикладів даних (так званий навчальний набір), щоб комп'ютер міг навчитися передбачати клас нового екземпляра.

Різниця між класифікацією та регресією полягає в тому, що регресія передбачає неперервне числове значення, наприклад, ціну. Це може бути будь-яке дійсне (для ціни — лише додатне) число.

Натомість класифікація передбачає категоріальне значення, наприклад, тип цукерки. Є скінченний набір значень, і модель намагається віднести кожен екземпляр до однієї з цих категорій.

Залежно від формулювання задачі існує декілька типів класифікації:

• Бінарна класифікація: у бінарній класифікації ціль належить до одного з двох можливих результатів. Наприклад, електронна пошта: спам/не спам, солодощі: печиво/не печиво;

• Багатокласова класифікація: у багатокласовій класифікації для цілі існує три або більше можливих результатів. Наприклад, електронна пошта: спам/важливе/реклама/інше, солодощі: печиво/зефір/цукерка;

• Багатоміткова класифікація: у багатомітковій класифікації кожен об'єкт може одночасно належати до декількох класів. Наприклад, фільм може бути класифікований як бойовик і комедія одночасно, або електронний лист може бути позначений як важливий і робочий.

Для більшості моделей машинного навчання необхідно кодувати цільове значення у вигляді числа. Для бінарної класифікації результати зазвичай кодуються як 0/1 (наприклад, 1 - cookie, 0 - not a cookie). Для багатокласової класифікації результати зазвичай кодуються як 0, 1, 2, ... (наприклад, 0 - candy, 1 - cookie, 2 - marshmallow).

Існує багато різних моделей, які можуть виконувати класифікацію. Деякі приклади:

• k-найближчих сусідів;
• логістична регресія;
• дерево рішень;
• випадковий ліс.

На щастя, всі вони реалізовані у бібліотеці scikit-learn і прості у використанні.