Microsoft Ternyata Sumber Terbuka Alat Penilaian Keamanan AI Counterfit

Microsoft telah mengubah alat penilaian risiko keamanan AI-nya, Counterfit, open-source, memungkinkan siapa saja untuk mulai menggunakan alat tersebut secara gratis. Saat ini, organisasi dapat menggunakan Counterfit untuk mengotomatiskan penilaian risiko keamanan, memastikan perlindungan yang mereka gunakan sesuai dengan kebutuhan.

Microsoft awalnya mengembangkan Counterfit sebagai alat internal yang dapat menilai keamanan AI dan sistem pembelajaran mesin dengan cepat. Ini dimulai sebagai kumpulan skrip sebelum dengan cepat berubah menjadi otomatisasi AI generik yang dapat digunakan operator untuk "menyerang beberapa sistem AI" sekaligus.

Microsoft sekarang secara teratur menggunakan Counterfit sebagai alat inti dalam operasi tim merah AI mereka. Karena Counterfit adalah lingkungan, model, dan data agnostik, alat tersebut dapat memberikan penilaian yang tepat tanpa impedansi.

Alat itu sendiri dirancang untuk digunakan oleh para profesional keamanan. Counterfit menggunakan alur kerja yang mirip dengan alat tim merah populer lainnya seperti Metasploit atau PowerShell Empyre, dengan dukungan ekstensif untuk pembuatan skrip, algoritme serangan yang dimuat sebelumnya, pemindaian kerentanan, logging lanjutan, dan lainnya, diakses melalui baris perintah.

Microsoft telah bekerja secara ekstensif dengan para profesional keamanan dan organisasi besar untuk mengembangkan Counterfit dengan lebih baik juga. Di Blog Keamanan Microsoft, Matilda Rhode, Peneliti Keamanan Siber Senior, Airbus, mengatakan:

AI semakin banyak digunakan dalam industri; Sangat penting untuk melihat ke depan untuk mengamankan teknologi ini, terutama untuk memahami di mana serangan ruang fitur dapat direalisasikan di ruang masalah. Peluncuran alat sumber terbuka dari organisasi seperti Microsoft untuk dievaluasi oleh praktisi keamanan keamanan sistem AI disambut baik dan merupakan indikasi yang jelas bahwa industri menangani masalah ini serius.

Anda bisa menemukan open-source Microsoft Counterfit di GitHub resmi mereka.

Terkait: Pekerjaan yang Tidak Pernah Anda Ketahui Dilakukan oleh AI

Mengapa Counterfit Berguna?

Bahkan untuk perusahaan sebesar Microsoft, menyelesaikan penilaian keamanan yang efektif tidaklah mudah, terutama jika perusahaan tersebut adalah pemimpin, pemerintah, nirlaba, dan lainnya yang sangat besar di Fortune 500. Studi Microsoft sebelumnya menemukan sejumlah besar bisnis tidak dapat menguji sistem AI mereka secara akurat.

Kami menemukan bahwa 25 dari 28 bisnis menunjukkan bahwa mereka tidak memiliki alat yang tepat untuk mengamankan sistem AI mereka dan profesional keamanan sedang mencari panduan khusus di bidang ini.

Counterfit mempermudah penyelesaian penilaian tersebut, mengotomatiskan proses analisis dan pengujian.

Terkait: Cara Anda Dapat Menggunakan Teknologi AI untuk Meningkatkan Bisnis Anda

Selanjutnya diterbitkan baru-baru ini Studi Gartner mencantumkan adopsi keamanan AI sebagai salah satu langkah keamanan terpenting yang dapat diambil perusahaan untuk meningkatkan perlindungan. Studi yang sama mencatat bahwa "Pada 2024, organisasi yang menerapkan kontrol manajemen risiko AI khusus akan berhasil menghindari hasil AI negatif dua kali lebih sering daripada yang tidak."

Singkatnya, Counterfit menjadi alat penilaian keamanan AI sumber terbuka akan membantu membuat dunia menjadi tempat yang sedikit lebih aman.

4 Alat Antivirus Ini Menggunakan AI untuk Melindungi Sistem Anda

Apakah langganan antivirus Anda berikutnya perlu menyertakan kecerdasan buatan, atau itu hanya kata kunci keamanan lainnya?

Baca Selanjutnya

Tentang Penulis