Ketika berbicara tentang media sosial, kita semua tahu bahwa selain banyak manfaat yang diberikannya dalam menjalin hubungan lebih mudah, ada juga risiko dan bahaya tertentu yang datang dengan berinteraksi secara online, terutama bagi kaum muda. Untungnya, ada aplikasi di luar sana yang proaktif dan mencoba membatasi bahaya yang dapat menimpa kaum muda dengan menerapkan teknologi moderasi yang tepat.
Yubo, aplikasi penemuan sosial langsung yang paling banyak digunakan oleh Gen Z, telah mengumumkan moderasi audio streaming langsungnya teknologi berkembang ke pasar terbesarnya, yaitu Amerika Serikat, Inggris, Australia, dan Kanada.
Ini terjadi setelah beberapa bulan menguji fitur tersebut di beberapa wilayah di Amerika Serikat, karena perusahaan mempelajari cara mengatasi masalah yang muncul saat menganalisis audio secara real time.
Pentingnya Moderasi Konten
Memoderasi konten online adalah pekerjaan yang sulit dilakukan. Kami telah melihat ini dengan Facebook dan Twitter dan Instagram dan sebagainya. Di antara penghinaan, komentar kebencian, atau bahkan terkadang kekerasan atau menyakiti diri sendiri, moderasi sangat penting untuk menjaga platform ini tetap aman dan melindungi penggunanya. Ada sesuatu tentang kemampuan bersembunyi di balik anonimitas yang ditawarkan oleh internet yang dapat memunculkan hal terburuk bagi sebagian orang.
Nah, Yubo terus menunjukkan bahwa ia melakukan apa saja untuk membantu mencegah hal ini, terutama karena basis penggunanya jauh lebih muda. Menurut Yubo, 99% basis pengguna mereka adalah Gen Z berusia 13-25 tahun. Meskipun pelecehan online tidak baik bagi siapa pun untuk bertahan, itu bisa sangat berbahaya bagi remaja.
Teknologi moderasi gambar dan video telah ada sejak lama dan telah diterapkan dengan berbagai tahap keberhasilan. Moderasi audio, bagaimanapun, tetap menjadi tantangan besar, terutama dengan streaming langsung. Apakah itu streaming langsung yang diambil saat berjalan di jalan atau saat seseorang bermain video game, itu tidak masalah.
Cara Kerja Moderasi Audio Yubo
Mulai Mei 2022, Yubo memulai fase uji coba untuk teknologi moderasi audionya di berbagai wilayah di Amerika Serikat. Sekarang fase berikutnya mencakup sebagian besar wilayah berbahasa Inggris di mana Yubo memiliki basis pengguna yang besar untuk memungkinkan perusahaan mengumpulkan wawasan yang lebih baik tentang alat keselamatan baru mereka.
Meski masih baru, ini adalah teknologi yang pada akhirnya bisa digunakan secara luas untuk mendeteksi kekerasan atau menyakiti diri sendiri di masa depan.
Yubo tidak melakukan ini sendiri, melainkan bermitra dengan Hive. Hive, jika Anda belum pernah mendengarnya, adalah perusahaan yang membuat dan menyediakan API moderasi konten untuk memproses gambar dan video hampir secara real-time.
Teknologi yang diimplementasikan Yubo bekerja dengan merekam dan menyalin potongan audio 10 detik dalam streaming langsung dari 10 orang atau lebih. Teks segera dianalisis oleh kecerdasan buatan untuk mendeteksi kata atau frasa yang melanggar aplikasi Pedoman Komunitas.
Tunggu, itu tidak berhenti di sini. Meskipun kecerdasan buatan dapat mendeteksi hal-hal seperti itu dengan sangat baik, itu masih jauh dari titik di mana ia dapat membedakan antara penggunaan bermasalah yang sebenarnya dan tanda palsu.
Bendera palsu dapat berupa, misalnya, lagu yang diputar di latar belakang, atau bahasa main-main yang tidak bermaksud jahat.
Jadi, di sinilah Spesialis Keselamatan Yubo berperan, karena mereka dibawa untuk menyelidiki insiden yang ditandai. Manusialah yang menentukan apakah suatu situasi memerlukan eskalasi atau tidak jika ada tindakan yang harus diambil terhadap orang-orang yang menggunakan bahasa yang buruk, atau bahkan jika penegakan hukum perlu dilakukan di dalam.
Jika streaming langsung baik-baik saja, tidak ada transkrip yang ditinjau atau disimpan melewati batas 24 jam, jadi semuanya tetap pribadi; atau sepribadi streaming langsung dengan lebih dari 10 orang.
Namun, jika algoritme mendeteksi ancaman kekerasan, ujaran kebencian, atau menyakiti diri sendiri, misalnya, transkrip disimpan hingga satu tahun. Ini, tentu saja, merupakan tindakan pengamanan bagi perusahaan jika penegak hukum memerlukan informasi tersebut atau perusahaan itu sendiri memerlukan rincian untuk penyelidikan internal lebih lanjut.
Chief Operating Officer Yubo, Marc-Antoine Durand, melihat perluasan moderasi audio teknologi sebagai elemen kunci dalam evolusi keamanan online di seluruh industri.
“Masih banyak kemajuan yang harus dicapai dalam bidang deteksi suara, tetapi kami bangga membuka jalan bagi rekan-rekan kami dengan menjadi yang pertama meluncurkan moderasi audio dengan Hive dan membantu menjadikan alat ini lebih andal dan efektif melalui uji coba ini,” Durand dikatakan.
Jelas, platform sosial tidak menginginkan perundungan yang merajalela, ujaran kebencian, dan komentar yang menghasut kekerasan karena itu akan membuat pengguna lain menjauh. Menerapkan teknologi moderasi seperti itu adalah alat yang hebat untuk menjaga keamanan pengguna, dan juga untuk membantu menjamin pertumbuhan dan kesuksesan Yubo dalam jangka panjang.