Apa Itu TensorFlow Lite dan Bagaimana Itu Kerangka Pembelajaran Mendalam?

Anda mungkin pernah menemukan TensorFlow Lite saat mempelajari papan pengembangan Edge AI atau proyek akselerasi AI.

TensorFlow Lite adalah framework paket software yang memungkinkan pelatihan ML secara lokal di hardware. Pemrosesan dan komputasi pada perangkat ini memungkinkan pengembang menjalankan model mereka pada perangkat keras yang ditargetkan. Perangkat keras termasuk papan pengembangan, modul perangkat keras, perangkat tertanam dan IoT.

Ringkasan Framework TensorFlow Lite

TensorFlow adalah istilah populer dalam pembelajaran mendalam, karena banyak developer ML menggunakan framework ini untuk berbagai kasus penggunaan. Ini memberikan kemudahan penerapan model pembelajaran mesin dan kesimpulan untuk aplikasi AI.

Namun TensorFlow Lite adalah framework pembelajaran mendalam untuk inferensi lokal, khususnya untuk perangkat keras komputasi rendah. Ini memungkinkan pembelajaran mesin di perangkat dengan membantu pengembang dalam menjalankan model mereka pada perangkat keras dan perangkat IoT yang kompatibel.

Pengembang perlu memilih model yang sesuai tergantung pada kasus penggunaan. Framework ini juga memberikan opsi untuk melatih kembali model yang ada pada set data kustom. Karena model buffer protokol TensorFlow hadir dengan ukuran besar dan membutuhkan daya komputasi lanjutan, model ini memungkinkan konversi model TensorFlow ke model TensorFlow Lite.

Penyesuaian pengoptimalan dan pengukuran parameter memungkinkan pengurangan ukuran model dan latensi.

Terlepas dari manfaat latensi dan ukuran TensorFlow Lite, framework menyediakan keamanan data saat pelatihan dilakukan secara lokal di perangkat. Selain itu, tidak perlu konektivitas internet. Dengan demikian, penerapan aplikasi tidak terbatas pada area tertentu dengan konektivitas.

Faktor-faktor ini pada akhirnya mengurangi beban konsumsi daya pada perangkat dengan menghilangkan faktor konektivitas dan meningkatkan efisiensi inferensi pembelajaran mendalam.

Model kerangka kerja TensorFlow Lite ada dalam format lintas platform yang dikenal sebagai FlatBuffers. Ini adalah pustaka serialisasi yang menyimpan data hierarki dalam buffer biner datar sehingga akses langsung dapat dilakukan tanpa harus membongkar. Anda juga dapat mengamati ekstensi ".tflite" untuk model TensorFlow Lite. Teknik representasi ini memungkinkan pengoptimalan dalam komputasi dan mengurangi kebutuhan memori. Karenanya, membuatnya jauh lebih baik daripada model TensorFlow

TinyML di TensorFlow Lite Micro

Karena TensorFlow Lite kompatibel dengan berbagai platform untuk aplikasi Edge AI, kebutuhan untuk menggabungkan library lebih lanjut diperlukan. Oleh karena itu, organisasi tersebut membuat pustaka subset dari TensorFlow Lite, yang dikenal sebagai TensorFlow Lite Micro. TensorFlow Lite Micro secara khusus menjalankan model pembelajaran mesin pada mikrokontroler secara lokal dengan kebutuhan memori minimum sekitar beberapa kilobyte.

Runtime inti dari prosedur terintegrasi dengan 16KB pada Arm Cortex M3 dan dapat bekerja pada berbagai model. Kerangka kerja tidak memerlukan dukungan OS tambahan atau pustaka bahasa tingkat tinggi lainnya sebagai dependensi untuk menjalankan inferensi pada perangkat.

Pengembangan root TensorFlow Lite Micro ke C ++ 11, yang membutuhkan arsitektur 32-bit untuk kompatibilitas. Berbicara lebih banyak tentang arsitektur, pustaka berfungsi dengan baik pada berbagai prosesor yang kuat berdasarkan arsitektur Arm Cortex-M Series ke yang lain. arsitektur desain seperti ESP32.

Alur Kerja untuk Kasus Penggunaan Mikro TensorFlow Lite

Proses pelatihan jaringan saraf membutuhkan perangkat keras komputasi yang tinggi. Jadi, dilatih secara umum Model TensorFlow. Namun, pelatihan hanya diperlukan jika set data kustom cocok dengan model deep learning, sedangkan model yang telah dilatih sebelumnya pada framework juga dapat digunakan untuk aplikasi.

Dengan asumsi kasus penggunaan kustom dengan set data khusus aplikasi, pengguna melatih model pada framework TensorFlow umum dengan arsitektur dan kapasitas pemrosesan tinggi. Setelah pelatihan selesai, evaluasi model menggunakan teknik pengujian untuk memverifikasi keakuratan dan keandalan model. Selanjutnya, prosesnya diikuti dengan mengonversi model TensorFlow menjadi model TensorFlow Lite yang kompatibel dengan hardware dalam format .tflite.

Format .tflite adalah file buffer datar yang umum untuk framework TensorFlow Lite dan hardware yang kompatibel. Model selanjutnya dapat digunakan untuk pelatihan inferensi pada data real-time yang diterima pada model. Pelatihan inferensi mengoptimalkan model untuk kasus penggunaan yang kuat. Oleh karena itu, pilihan pelatihan inferensi sangat penting untuk edge Aplikasi AI.

Sebagian besar firmware mikrokontroler tidak mendukung sistem file asli untuk langsung menyematkan format buffer datar model TensorFlow Lite. Oleh karena itu, konversi file .tflite diperlukan ke format struktur array, yang kompatibel dengan mikrokontroler.

Menyertakan program dalam larik C yang diikuti dengan kompilasi normal adalah teknik yang mudah untuk konversi semacam itu. Format yang dihasilkan berfungsi sebagai file sumber dan terdiri dari larik karakter yang kompatibel dengan mikrokontroler.

Perangkat yang Mendukung TensorFlow Lite Micro

TensorFlow Lite cocok untuk perangkat yang andal, tetapi memiliki kekurangan karena beban kerja yang lebih besar pada prosesor. Meskipun TensorFlow Lite Micro memiliki file berukuran kecil yang cenderung kurang pas, mengoptimalkan ukuran file tersebut cocok dengan memori secara signifikan dapat meningkatkan output untuk daya rendah dan perangkat keras pemrosesan rendah seperti mikrokontroler.

Berikut adalah daftar papan pengembangan dari dokumentasi resmi TensorFlow yang mendukung TensorFlow Lite Micro:

• Arduino Nano 33 BLE Sense
• SparkFun Edge
• STM32F746 Discovery kit
• Adafruit EdgeBadge
• Adafruit TensorFlow Lite untuk Microcontrollers Kit
• Adafruit Circuit Playground Bluefruit
• Espressif ESP32-DevKitC
• Espressif ESP-EYE
• Terminal Wio: ATSAMD51
• Himax WE-I Plus EVB Endpoint AI Development Board

TensorFlow Lite Micro juga tersedia sebagai pustaka Arduino untuk dukungan yang diperluas untuk mikrokontroler. Itu juga dapat membangun proyek untuk lingkungan pengembangan perangkat keras yang mirip dengan Mbed.

TensorFlow Lite Menawarkan Banyak Hal

Kerangka kerja deep learning TensorFlow Lite membuka berbagai kemungkinan untuk sejumlah aplikasi AI edge. Karena framework ini open-source untuk penggemar AI, dukungan komunitas membuatnya semakin populer untuk kasus penggunaan pembelajaran mesin. Keseluruhan platform TensorFlow Lite meningkatkan lingkungan untuk pertumbuhan aplikasi edge untuk perangkat yang disematkan dan IoT

Selain itu, ada berbagai contoh bagi pemula untuk membantu mereka dengan kasus penggunaan langsung pada kerangka kerja. Beberapa contoh ini termasuk deteksi orang tergantung pada data yang dikumpulkan oleh sensor gambar papan pengembangan dan program hello world standar untuk semua papan pengembangan. Contoh tersebut juga mencakup aplikasi seperti deteksi gerakan dan pengenalan ucapan untuk papan pengembangan tertentu juga.

Untuk informasi lebih lanjut tentang TensorFlow Lite dan TensorFlow Lite Micro, Anda dapat mengunjungi halaman dokumentasi resmi organisasi. Ada banyak bagian konseptual serta tutorial untuk pemahaman yang lebih baik tentang kerangka kerja.

Memulai Pengenalan Gambar Menggunakan TensorFlow dan Raspberry Pi

Ingin memahami pengenalan gambar? Berkat Tensorflow dan Raspberry Pi, Anda dapat segera memulai.

Baca Selanjutnya

Tentang Penulis