Integrasi AI dan Web3 Menyebabkan Tantangan Keamanan Baru, DeFAI Menjadi Fokus

Baru-baru ini, sebuah acara blockchain yang fokus pada tren integrasi AI dan Web3 diadakan di Istanbul, menjadi arena penting untuk diskusi keamanan Web3 tahun ini. Selama acara, beberapa ahli industri melakukan diskusi mendalam tentang keadaan aplikasi teknologi AI dalam keuangan terdesentralisasi (DeFi) dan tantangan keamanannya.

Dengan perkembangan pesat model bahasa besar dan agen AI, sebuah paradigma keuangan baru—keuangan AI terdesentralisasi (DeFAI) secara bertahap terbentuk. Namun, perubahan ini juga membawa permukaan serangan dan risiko keamanan baru. Para ahli yang hadir menunjukkan bahwa meskipun DeFAI memiliki prospek yang luas, hal ini juga mengharuskan kita untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar yang didasarkan pada logika tetap, proses pengambilan keputusan agen AI dipengaruhi oleh konteks, waktu, bahkan interaksi sejarah; ketidakpastian ini tidak hanya memperburuk risiko, tetapi juga menciptakan peluang bagi penyerang.

AI agen pada dasarnya adalah entitas cerdas yang mampu membuat keputusan dan mengeksekusi berdasarkan logika AI, biasanya dijalankan berdasarkan otorisasi dari pengguna, protokol, atau DAO. Salah satu contoh paling khas adalah robot perdagangan AI. Saat ini, sebagian besar agen AI berjalan di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap serangan injeksi, manipulasi model, atau pemalsuan data. Setelah diretas, tidak hanya dapat menyebabkan kerugian finansial, tetapi juga dapat mempengaruhi stabilitas seluruh protokol.

Para ahli yang hadir juga menyebutkan suatu situasi serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau pesan media sosial sebagai sinyal perdagangan, penyerang menerbitkan alarm palsu, misalnya "suatu protokol diserang", yang dapat menggoda agen tersebut untuk segera memulai likuidasi darurat. Tindakan ini tidak hanya akan menyebabkan kerugian aset pengguna, tetapi juga akan memicu volatilitas pasar, yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan yang mendahului.

Dalam menghadapi risiko yang disebutkan di atas, para ahli yang hadir secara umum berpendapat bahwa keamanan agen AI tidak seharusnya menjadi tanggung jawab satu pihak saja, melainkan merupakan tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga. Pertama, pengguna perlu memahami dengan jelas ruang lingkup izin yang dimiliki agen, memberikan izin dengan hati-hati, dan juga harus memperhatikan untuk meninjau operasi berisiko tinggi dari agen AI. Kedua, pengembang harus menerapkan langkah-langkah pertahanan sejak tahap desain, seperti: penguatan kata kunci, isolasi kotak pasir, pembatasan laju, dan logika cadangan. Sedangkan perusahaan keamanan pihak ketiga harus memberikan tinjauan independen terhadap perilaku model agen AI, infrastruktur, serta cara integrasi di blockchain, dan bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah-langkah mitigasi.

Seorang ahli keamanan memperingatkan: "Jika terus memperlakukan agen AI sebagai 'kotak hitam', kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Bagi para pengembang yang sedang menjelajahi arah DeFAI, ia memberikan saran: "Sama seperti kontrak pintar, logika perilaku agen AI juga diimplementasikan oleh kode. Karena ini adalah kode, ada kemungkinan untuk diserang, oleh karena itu perlu dilakukan audit keamanan profesional dan pengujian penetrasi."

Dengan perkembangan teknologi blockchain yang terus menerus dan integrasi mendalam AI, masalah keamanan di bidang DeFAI akan menjadi fokus perhatian industri dalam periode waktu yang akan datang. Menemukan keseimbangan antara inovasi dan keamanan akan menjadi tantangan penting yang dihadapi oleh seluruh industri.