การวิเคราะห์จำแนกกำลังสองใน python (ทีละขั้นตอน)
การวิเคราะห์จำแนกกำลังสอง เป็นวิธีการที่คุณสามารถใช้เมื่อคุณมีชุดตัวแปรทำนาย และคุณต้องการจัด ประเภทตัวแปรตอบสนองออก เป็นสองคลาสขึ้นไป
ถือว่าเทียบเท่าแบบไม่เชิงเส้นของ การวิเคราะห์จำแนกเชิงเส้น
บทช่วยสอนนี้ให้ตัวอย่างทีละขั้นตอนของวิธีดำเนินการวิเคราะห์จำแนกกำลังสองใน Python
ขั้นตอนที่ 1: โหลดไลบรารีที่จำเป็น
ขั้นแรก เราจะโหลดฟังก์ชันและไลบรารีที่จำเป็นสำหรับตัวอย่างนี้:
from sklearn. model_selection import train_test_split
from sklearn. model_selection import RepeatedStratifiedKFold
from sklearn. model_selection import cross_val_score
from sklearn. discriminant_analysis import QuadraticDiscriminantAnalysis
from sklearn import datasets
import matplotlib. pyplot as plt
import pandas as pd
import numpy as np
ขั้นตอนที่ 2: โหลดข้อมูล
สำหรับตัวอย่างนี้ เราจะใช้ชุดข้อมูล ม่านตา จากไลบรารี sklearn รหัสต่อไปนี้แสดงวิธีการโหลดชุดข้อมูลนี้และแปลงเป็น DataFrame ของแพนด้าเพื่อความสะดวกในการใช้งาน:
#load iris dataset iris = datasets. load_iris () #convert dataset to pandas DataFrame df = pd.DataFrame(data = np.c_[iris[' data '], iris[' target ']], columns = iris[' feature_names '] + [' target ']) df[' species '] = pd. Categorical . from_codes (iris.target, iris.target_names) df.columns = [' s_length ', ' s_width ', ' p_length ', ' p_width ', ' target ', ' species '] #view first six rows of DataFrame df. head () s_length s_width p_length p_width target species 0 5.1 3.5 1.4 0.2 0.0 setosa 1 4.9 3.0 1.4 0.2 0.0 setosa 2 4.7 3.2 1.3 0.2 0.0 setosa 3 4.6 3.1 1.5 0.2 0.0 setosa 4 5.0 3.6 1.4 0.2 0.0 setosa #find how many total observations are in dataset len(df.index) 150
เราจะเห็นว่าชุดข้อมูลนี้มีข้อสังเกตทั้งหมด 150 รายการ
สำหรับตัวอย่างนี้ เราจะสร้างแบบจำลองการวิเคราะห์จำแนกกำลังสองเพื่อจำแนกชนิดพันธุ์ของดอกไม้ที่กำหนด
เราจะใช้ตัวแปรทำนายต่อไปนี้ในโมเดล:
- ความยาวกลีบเลี้ยง
- ความกว้างของกลีบเลี้ยง
- ความยาวกลีบดอก
- ความกว้างของกลีบดอก
และเราจะใช้พวกมันเพื่อทำนายตัวแปรการตอบสนอง ของสปีชีส์ ซึ่งรองรับคลาสที่เป็นไปได้สามคลาสต่อไปนี้:
- เซโตซ่า
- เวอร์ซิคัลเลอร์
- เวอร์จิเนีย
ขั้นตอนที่ 3: ปรับโมเดล QDA
ต่อไป เราจะปรับโมเดล QDA ให้พอดีกับข้อมูลของเราโดยใช้ฟังก์ชัน QuadraticDiscriminantAnalsys ของ sklearn:
#define predictor and response variables X = df[[' s_length ',' s_width ',' p_length ',' p_width ']] y = df[' species '] #Fit the QDA model model = QuadraticDiscriminantAnalysis() model. fit (x,y)
ขั้นตอนที่ 4: ใช้แบบจำลองเพื่อคาดการณ์
เมื่อเราติดตั้งโมเดลโดยใช้ข้อมูลของเราแล้ว เราก็สามารถประเมินประสิทธิภาพของโมเดลได้โดยใช้การตรวจสอบความถูกต้องข้ามแบบแบ่งชั้น k-fold ซ้ำ
สำหรับตัวอย่างนี้ เราจะใช้การพับ 10 ครั้งและการทำซ้ำ 3 ครั้ง:
#Define method to evaluate model
cv = RepeatedStratifiedKFold(n_splits= 10 , n_repeats= 3 , random_state= 1 )
#evaluate model
scores = cross_val_score(model, X, y, scoring=' accuracy ', cv=cv, n_jobs=-1)
print( np.mean (scores))
0.97333333333334
เราจะเห็นได้ว่าโมเดลนี้มีความแม่นยำโดยเฉลี่ย 97.33% .
นอกจากนี้เรายังสามารถใช้แบบจำลองเพื่อทำนายว่าดอกไม้ใหม่อยู่ในคลาสใด โดยพิจารณาจากค่าอินพุต:
#define new observation new = [5, 3, 1, .4] #predict which class the new observation belongs to model. predict ([new]) array(['setosa'], dtype='<U10')
เราเห็นว่าแบบจำลองทำนายว่าการสังเกตใหม่นี้เป็นของสปีชีส์ที่เรียกว่า เซโตซา
คุณสามารถค้นหาโค้ด Python แบบเต็มที่ใช้ในบทช่วยสอนนี้ ได้ที่นี่