Menu

Mode Gelap
Djauzi dan Rafa Jadi Mojang Jajaka Kota Bandung 2023 *Pemilu 2024 Momentum Bagi Rakyat Indonesia Menentukan Masa Depan Negara dan Bangsa* Ini salah satu manfaat dari pajak yang Anda bayarkan… fasilitas kesehatan kepada seluruh masyarakat Indonesia, seperti @bpjskesehatan_ri. Ditjen pen pada rapat kerja HIMKI tahun 2023 Penandatanganan nota kesepahaman dan perjanjian kerja sama antara badan pengawas keuangan dan pembangunan dengan provinsi Papua Selatan Papua tengah Papua pegunungan dan Papua barat daya

Tekno & Sains · 19 May 2022 14:27 WIB ·

Pengenalan Deep Learning: Transfer learning dan Fine Tuning, Bedanya apa ?


 Pengenalan Deep Learning: Transfer learning dan Fine Tuning, Bedanya apa ? Perbesar

Masalah terbesar  dalam menggunakan Deep Learning adalah jumlah data yang kecil. Ada banyak solusi yang sebenarnya ditawarkan untuk mengatasi masalah ini salah satunya adalah Tranfer Learning dan Fine Tuning. Artikel ini berfokus pada teori Tranfer Learning dan Fine Tuning.

Tranfer Learning

Transfer learning adalah teknik atau metode yang memecahkan masalah serupa, dengan menggunakan model yang dilatih pada dataset yang besar, dengan cara mengubah dan memperbarui parameter agar sesuai dengan dataset baru.

Sebagai contoh, kita mau membuat sistem untuk mendeteksi gambar penyakit daun padi. Jika daun padi sehat cukup umum, kita cukup browsing-browsing, dan kita akan menemukan orang yang sudah membuat model deep learningnya. Kita tinggal mendownload, memakainya, dan selesai! Kita telah memiliki model cerdas deep learning yang mampu mendeteksi daun padi yang sehat. Tanpa perlu mencari data, tanpa perlu melatih model.

Tapi seringnya permasalahan yang kita miliki sedikit berbeda. Sedikit saja perbedaan, maka kita sudah tidak bisa lagi pakai model orang lain ini. Contohnya, kita tidak hanya ingin mendeteksi “daun padi sehat” tapi juga penyakit daun padi Bacterial Leaf Blight, Brown Spot, Leaf Smut, dll. Permasalahannya,penyakit daun padi itu bukan gambar yang ada dimana mana. Sangat mungkin model yang kita download tadi belum bisa mendeteksi tersebut.

Di sinilah, kita butuh transfer learning. Kembali ke ide utama di atas, dengan transfer learning, kita bisa memanfaatkan model orang lain yang sudah dilatih, untuk permasalahan kita yang berbeda.

Secara umum ada dua cara menggunakan model pre-trained untuk transfer learning.

1. Model Pra-Terlatih sebagai Pengekstrak Fitur dalam Model

Dalam pendekatan ini data domain sumber dengan domain target serupa. Model yang menggunakan kumpulan data besar ImageNet kemudian ditimbang dan arsitekturnya dilatih ulang dengan cara ini bekukan bagian ekstraksi fitur, hapus bagian lapisan klasifikasi dan menambahkan lapisan klasifikasi baru untuk gambar target.

Sebagai contoh, kita download pre-trained model VGG-16 yang sudah dilatih ke data ImageNet. Arsitektur VGG-16 sama seperti arsitektur CNN pada umumnya memiliki bagian “konvolusi” dan memiliki bagian “klasifikasi”. Karena arsitektur VGG16 ini sudah dilatih maka semua bobot-bobotnya sudah memiliki nilai yang bagus untuk klasifikasi citra di dataset ImageNet. Data imagenet terdiri dari sekitar 1000 kelas.

Jadi kita buang layer klasifikasi dengan mengganti layer terakhir pre-trained model dengan jumlah class klasifikasi dari data set kita

2. Fine Tuning

Pada pendekatan data domain sumber dan domain target sangat berbeda. Diperlukan ekstraksi peta fitur yang tepat dari domain sumber sebelumnya sempurnakan agar sesuai dengan domain target. Pada metode ini kita menggunakan pre-trained model yang telah dilatih namun tidak kita freeze. Jadi meskipun model sudah dilatih, nantinya pre-trained model ini akan dilatih lagi pada lapisan konvolusi terakhir atau melatih ulang dari awal untuk kebutuhan yang baru.

Biasanya layer yang di-freeze adalah beberapa layer yang di awal(yang dekat dengan input layer dan menyimpan informasi yang low-level) sedangkan layer yang di belakang, yang menyimpan informasi yang lebih high-level, tidak di-freeze untuk di-fine tune. Ini biasanya digunakan ketika data yang digunakan untuk melatih pre-trained model dirasa sedikit berbeda dengan data yang baru. Apabila melakukan fine tuning secara tidak hati-hati kita dapat “membodohkan” model yang sudah cerdas.

 

 

 

Artikel ini telah dibaca 1,163 kali

badge-check

Penulis

Baca Lainnya

*Ditjen Bina Bangda Apresiasi terhadap Publikasi Data Statistik Sektoral Pemkab Lebak*

25 February 2024 - 12:28 WIB

Mewaspadai Gejala Resesi Ekonomi dengan Bijaksana

25 February 2024 - 12:23 WIB

JIMLY ASSHIDDIQIE – Guru Besar Ilmu Hukum Universitas Indonesia, Guru Besar Kehormatan UNHAN, STHM, dan Honorary Professor of Melbourne University School of Law. Ketua MKRI pertama (2003), Ketua DKPP pertama (2012), dan anggota DPD-RI dan MPR-RI (2019-2024)

24 February 2024 - 19:11 WIB

Diduga rem tidak berfungsi, sebuah truk tangki Elpiji menabrak Dump truk.

24 February 2024 - 16:53 WIB

*Seorang Suami Naik Pitam Akibat Istrinya Dilecehkan oleh Saudara Iparnya*

24 February 2024 - 14:04 WIB

*Minta Jajarannya Perkuat Kinerja, Kepala BSKDN Optimistis Hasilkan Strategi Kebijakan Berkualitas*

24 February 2024 - 13:06 WIB

Trending di Bisnis