Pohon keputusan – mengklasifikasi data dengan pertanyaan ya/tidak

InformatikaData, AI, dan pembelajaran mesinUsia 17–18

Gunakan di kelas saya

Data dua kelas pada bidang yang ditentukan oleh dua fitur (cuaca dan keluar rumah, apel atau lemon, lulus ujian). Komputer membangun pohon keputusan dengan memilih di setiap simpul pertanyaan "fitur ≤ ambang?" yang paling menurunkan impuritas Gini atau entropi, atau siswa memotong wilayah sendiri sambil melihat pratinjau penurunan impuritas. Bidang terbagi menjadi persegi panjang dan pohonnya tampil di bawah; ubah kedalaman maksimum untuk membandingkan akurasi pada data latih dan data uji serta melihat overfitting dengan jelas. Pada Buat aturan sendiri, siswa menulis hingga tiga aturan jika-maka, menyetel ambangnya pada sampel latih, menguji setiap versi pada sampel baru, dan mencatat akurasinya.

Pelajaran: Pembelajaran mesin: pohon keputusan, impuritas Gini dan entropi, data latih dan data uji, overfitting

Yang ditunjukkan

Pohon keputusan mengklasifikasi sebuah contoh dengan rangkaian pertanyaan ya/tidak; setiap pertanyaan membandingkan satu fitur dengan sebuah ambang, sehingga bidang fitur terbagi menjadi persegi panjang. Data berasal dari aturan tersembunyi dengan label yang ditukar secara acak (derau). Komputer memilih secara rakus potongan yang paling menurunkan impuritas Gini atau entropi; pohon yang lebih dalam makin cocok dengan data latih, tetapi bisa menghafal derau. Pada Buat aturan sendiri, Anda sendiri yang menulis modelnya: aturan jika-maka dengan batas, disetel pada sampel latih dan diuji pada sampel baru yang belum pernah dilihat aturan itu.

Cara menggunakan

Pada Komputer membangun pohon, geser Kedalaman maksimum dari 1 sampai 8 dan bandingkan akurasi latih dan uji. Pada Ajukan pertanyaan sendiri, pilih Potong tegak atau Potong datar, lalu klik sebuah wilayah untuk membaginya. Pada Buat aturan sendiri, atur batas dan kelas setiap aturan, amati akurasi latih, lalu tekan Uji pada sampel baru dan catat untuk menyimpan setiap versi beserta akurasinya.

Parameter yang dapat diubah

  • Kumpulan data Keluar rumah? (suhu, kelembapan), Apel atau lemon? (massa, kemerahan kulit), Lulus ujian? (jam belajar, nilai latihan)
  • Jumlah data 40–200 titik
  • Derau (bagian label yang ditukar) 0–30 %
  • Kedalaman maksimum pohon 1–8
  • Kriteria pemisahan Impuritas Gini, Entropi (perolehan informasi)
  • Tampilkan data uji
  • Layar Pohon keputusan, Buat aturan sendiri

Pertanyaan untuk dijelajahi

  1. Mengapa akurasi latih terus naik seiring kedalaman, sedangkan akurasi uji tidak?
  2. Mengapa data "Lulus ujian?" dengan batas diagonal memerlukan begitu banyak pertanyaan?
  3. Apa yang dikatakan pertanyaan pertama di akar tentang data tersebut?