Artificial Intelligence (AI) kini membantu berbagai kebutuhan, mulai dari mengenali gambar, memberikan rekomendasi, mendeteksi transaksi mencurigakan, hingga menjawab pertanyaan pengguna melalui chatbot. Di balik berbagai kemampuan tersebut, model AI tetap menghadapi risiko keamanan yang dapat memengaruhi cara model mengambil keputusan.
Salah satu ancaman yang perlu diperhatikan adalah Adversarial Machine Learning (AML). Istilah ini merujuk pada pendekatan yang mempelajari bagaimana pihak tertentu dapat mengeksploitasi karakteristik berbasis data pada machine learning untuk memengaruhi perilaku model. NIST menjelaskan AML sebagai bidang yang berfokus pada serangan terhadap machine learning dengan memanfaatkan sifat statistik dan berbasis data dari model tersebut.
Baca Juga : Mengenal MLOps dan Perannya dalam Mengelola Model AI di Cloud
Apa Itu Adversarial Machine Learning?
Adversarial Machine Learning merupakan bidang keamanan AI yang mempelajari berbagai cara untuk memengaruhi, mengganggu, atau mengeksploitasi model machine learning. Pelaku dapat menargetkan berbagai tahap dalam siklus pengembangan AI, mulai dari data pelatihan hingga penggunaan model dalam lingkungan produksi.
Model machine learning mengandalkan data untuk mengenali pola dan menghasilkan prediksi. Karena itu, perubahan atau manipulasi tertentu pada data maupun input dapat memengaruhi hasil yang diberikan model. NIST membagi ancaman AML berdasarkan jenis AI, tahapan siklus machine learning, tujuan serangan, kemampuan pelaku, dan pengetahuan yang dimiliki pelaku terhadap model.
Sederhananya, adversarial machine learning mencoba mencari titik lemah pada cara model AI belajar atau mengambil keputusan. Ancaman ini berbeda dari kesalahan model biasa karena pihak tertentu sengaja mencoba memengaruhi perilaku AI.
Mengapa Adversarial Machine Learning Perlu Diperhatikan?
Penggunaan AI yang semakin luas membuat keamanan model menjadi bagian penting dalam pengembangan aplikasi. Ketika perusahaan menggunakan AI untuk mengambil keputusan atau mendukung proses bisnis, gangguan terhadap model dapat menimbulkan dampak yang lebih besar.
Sebagai contoh, perusahaan dapat menggunakan model AI untuk mendeteksi transaksi yang mencurigakan. Jika seseorang berhasil memengaruhi cara model mengenali pola, sistem mungkin menghasilkan keputusan yang keliru. Dalam skenario lain, model computer vision dapat salah mengenali objek setelah menerima input yang sengaja dirancang untuk membingungkan model.
NIST juga menyoroti bahwa risiko AML dapat muncul pada berbagai jenis AI, termasuk predictive AI dan generative AI. Serangan dapat memengaruhi performa, keamanan, privasi, hingga penggunaan model.
Jenis Ancaman dalam Adversarial Machine Learning
NIST mengelompokkan beberapa jenis serangan utama dalam adversarial machine learning. Setiap jenis memiliki cara kerja dan sasaran yang berbeda.
1. Evasion Attack
Evasion attack terjadi ketika pelaku mencoba membuat model menghasilkan keputusan yang keliru melalui input tertentu. Pelaku tidak harus mengubah data pelatihan. Sebaliknya, mereka berfokus pada input yang masuk ketika model menjalankan tugasnya.
Contohnya dapat muncul pada sistem computer vision. Model mungkin mengenali sebuah objek secara berbeda setelah menerima perubahan tertentu pada input. Kondisi seperti ini menunjukkan bahwa model dapat mengalami kesulitan ketika menghadapi data yang berbeda dari pola yang biasa muncul saat proses pelatihan.
2. Data Poisoning
Data poisoning menargetkan data yang digunakan untuk melatih model. Pelaku mencoba memasukkan data yang dapat mengganggu proses pembelajaran sehingga model menghasilkan perilaku yang tidak sesuai.
Ancaman ini penting karena kualitas data sangat memengaruhi kualitas model. Jika organisasi tidak memeriksa sumber dan kualitas data dengan baik, data yang bermasalah dapat ikut memengaruhi hasil pelatihan.
3. Privacy Attack
Privacy attack berfokus pada upaya memperoleh informasi sensitif dari model atau data yang berkaitan dengan proses machine learning. Risiko ini menjadi semakin penting ketika perusahaan menggunakan data pelanggan, dokumen internal, atau informasi pribadi untuk mengembangkan aplikasi AI.
Kebocoran informasi dapat menimbulkan masalah privasi, reputasi, hingga kepatuhan terhadap aturan perlindungan data. Karena itu, organisasi perlu memperhatikan keamanan data sepanjang siklus pengembangan AI. NIST memasukkan privacy attack sebagai salah satu kategori penting dalam taksonomi AML.
4. Misuse Attack pada Generative AI
Generative AI juga menghadapi bentuk ancaman yang berkaitan dengan penyalahgunaan model. Pelaku dapat mencoba memanfaatkan model untuk tujuan yang berbeda dari penggunaan yang dirancang oleh pengembang.
NIST memasukkan misuse sebagai salah satu kategori ancaman pada sistem generative AI. Hal ini menunjukkan bahwa keamanan AI tidak hanya berkaitan dengan akurasi model, tetapi juga bagaimana pengguna memanfaatkan model dalam praktiknya.
Baca Juga : Cara Mengoptimalkan Website dengan Programmatic SEO
Bagaimana Adversarial Machine Learning Dapat Memengaruhi Model AI?
Ancaman AML dapat muncul pada beberapa tahapan dalam siklus hidup machine learning. NIST mencatat bahwa serangan dapat menargetkan tahap desain, implementasi, training, testing, hingga deployment.
Pada tahap data, organisasi perlu memastikan sumber dan kualitas data tetap terpercaya. Pada tahap pengembangan, tim perlu memahami bagaimana model merespons kondisi yang tidak biasa. Setelah model masuk ke lingkungan produksi, organisasi juga perlu memantau perilakunya secara berkala.
Pendekatan ini penting karena model AI tidak selalu menghadapi kondisi yang sama seperti saat proses pengembangan. Perubahan data, pola penggunaan, maupun cara pengguna berinteraksi dengan aplikasi dapat memunculkan risiko baru.
Bagaimana Cara Mengurangi Risiko Adversarial Machine Learning?
Tidak ada satu metode yang dapat menghilangkan seluruh risiko AML. NIST sendiri menekankan bahwa pertahanan terhadap serangan adversarial masih memiliki keterbatasan. Karena itu, organisasi perlu menerapkan pendekatan keamanan secara menyeluruh. Beberapa langkah yang dapat dilakukan antara lain:
Periksa Kualitas dan Sumber Data
Pastikan tim mengetahui asal data yang digunakan untuk melatih maupun mengembangkan model. Pemeriksaan kualitas data dapat membantu menemukan pola yang tidak wajar sebelum data memengaruhi model.
Uji Model dalam Berbagai Kondisi
Jangan hanya menguji model menggunakan kondisi ideal. Tim perlu mengevaluasi respons model ketika menghadapi input yang berbeda dari data normal agar kelemahan dapat ditemukan lebih awal.
Batasi Akses terhadap Data dan Model
Terapkan kontrol akses sesuai kebutuhan. Tidak semua orang yang terlibat dalam proyek AI membutuhkan akses ke seluruh data, model, atau infrastruktur pendukungnya.
Pantau Perilaku Model
Monitoring membantu tim menemukan perubahan performa atau perilaku yang tidak biasa. Tim dapat menggunakan hasil monitoring sebagai dasar untuk melakukan evaluasi lebih lanjut.
Lakukan Evaluasi Secara Berkala
Ancaman terhadap AI terus berkembang. Karena itu, evaluasi keamanan sebaiknya tidak berhenti setelah model masuk ke production. Organisasi perlu meninjau kembali risiko ketika model, data, aplikasi, atau kebutuhan bisnis mengalami perubahan.
Contoh Adversarial Machine Learning dalam Bisnis
Bayangkan sebuah perusahaan menggunakan AI untuk membantu mendeteksi transaksi yang berpotensi melakukan fraud. Model mempelajari pola transaksi dari data historis dan kemudian memberikan penilaian terhadap transaksi baru.
Jika seseorang sengaja mencoba membuat pola transaksi terlihat berbeda dari karakteristik yang biasa model kenali, model dapat mengalami kesulitan dalam mengambil keputusan. Kondisi ini menunjukkan bagaimana pihak tertentu dapat memanfaatkan kelemahan model tanpa harus menyerang infrastruktur perusahaan secara langsung.
Karena itu, perusahaan perlu melihat AI sebagai bagian dari keseluruhan keamanan digital. Perlindungan tidak cukup hanya dengan mengamankan server dan aplikasi, tetapi juga perlu mencakup data, model, proses pengembangan, serta cara pengguna berinteraksi dengan AI.
Adversarial Machine Learning vs AI Red Teaming
Adversarial Machine Learning dan AI Red Teaming sama-sama berkaitan dengan keamanan AI, tetapi keduanya memiliki fokus yang berbeda. Keamanan Adversial membahas ancaman dan teknik serangan yang mengeksploitasi karakteristik machine learning. Sementara itu, AI Red Teaming merupakan aktivitas pengujian yang membantu organisasi mencari kelemahan pada sistem AI secara terencana.
Dengan kata lain, AML membantu organisasi memahami lanskap ancaman terhadap model, sedangkan AI Red Teaming dapat membantu tim menguji ketahanan sistem terhadap berbagai skenario ancaman tersebut.
Mengapa Keamanan Model AI Perlu Menjadi Prioritas?
Model AI dapat memberikan manfaat besar bagi bisnis, tetapi perusahaan juga perlu memahami risiko yang muncul dari penggunaannya. Model yang memiliki performa baik belum tentu memiliki ketahanan yang cukup ketika menghadapi kondisi yang tidak biasa atau interaksi yang sengaja dirancang untuk memengaruhinya.
Adversarial Machine Learning membantu perusahaan melihat keamanan AI dari sudut pandang yang lebih luas. Dengan memahami jenis ancaman, memeriksa kualitas data, menguji model, menerapkan kontrol akses, serta melakukan monitoring secara berkala, organisasi dapat meningkatkan ketahanan aplikasi AI terhadap berbagai risiko.
Baca Juga : Evonic AI vs OpenClaw: 5+ Perbedaan dan Kelebihan Masing-Masing
Penutup
Adversarial Machine Learning membahas berbagai ancaman yang memanfaatkan karakteristik data dan model machine learning untuk memengaruhi hasil atau perilakunya. Evasion, data poisoning, privacy attack, dan misuse menjadi beberapa kategori yang perlu perusahaan pahami ketika mengembangkan atau menggunakan AI.
Untuk mendukung kebutuhan keamanan infrastruktur dan aplikasi bisnis, Cyber Security dari IDCloudHost dapat menjadi salah satu pilihan untuk membantu perusahaan memperkuat perlindungan lingkungan digital. Dengan keamanan yang lebih menyeluruh, perusahaan dapat menggunakan teknologi AI dengan lebih percaya diri sekaligus tetap memperhatikan risiko yang menyertainya.
