Pemerintahan Biden siap untuk membuka front baru dalam upayanya untuk melindungi AI AS dari China dan Rusia dengan rencana awal untuk menempatkan pagar pembatas di sekitar model AI paling canggih, Reuters melaporkan pada hari Rabu.
Peneliti pemerintah dan sektor swasta khawatir musuh AS dapat menggunakan model, yang menambang sejumlah besar teks dan gambar untuk meringkas informasi dan menghasilkan konten, untuk melancarkan serangan cyber agresif atau bahkan membuat senjata biologis yang kuat.
Berikut adalah beberapa ancaman yang ditimbulkan oleh AI:
Deepfake dan misinformasi
Deepfake – video realistis namun dibuat-buat yang dibuat oleh algoritma AI yang dilatih pada rekaman online yang berlebihan – muncul di media sosial, mengaburkan fakta dan fiksi di dunia politik AS yang terpolarisasi.
Sementara media sintetis semacam itu telah ada selama beberapa tahun, media ini telah turbocharged selama setahun terakhir oleh banyak alat “AI generatif” baru seperti Midjourney yang membuatnya murah dan mudah untuk membuat deepfake yang meyakinkan.
Alat pembuatan gambar yang didukung oleh kecerdasan buatan dari perusahaan termasuk OpenAI dan Microsoft, dapat digunakan untuk menghasilkan foto yang dapat mempromosikan disinformasi terkait pemilihan atau pemungutan suara, meskipun masing-masing memiliki kebijakan untuk tidak membuat konten yang menyesatkan, kata para peneliti dalam sebuah laporan pada bulan Maret.
Beberapa kampanye disinformasi hanya memanfaatkan kemampuan AI untuk meniru artikel berita nyata sebagai sarana penyebaran informasi palsu.
Sementara platform media sosial utama seperti Facebook, Twitter, dan YouTube telah melakukan upaya untuk melarang dan menghapus deepfake, efektivitas mereka dalam mengawasi konten tersebut bervariasi.
Misalnya, tahun lalu, situs berita yang dikendalikan pemerintah China menggunakan platform AI generatif mendorong klaim palsu yang beredar sebelumnya bahwa Amerika Serikat menjalankan laboratorium di Kazakhstan untuk membuat senjata biologis untuk digunakan melawan China, Departemen Keamanan Dalam Negeri (DHS) mengatakan dalam penilaian ancaman tanah air 2024.
Penasihat Keamanan Nasional Jake Sullivan, berbicara di sebuah acara AI di Washington pada hari Rabu, mengatakan masalahnya tidak memiliki solusi yang mudah karena menggabungkan kapasitas AI dengan “maksud negara, aktor non-negara, untuk menggunakan disinformasi dalam skala besar, untuk mengganggu demokrasi, untuk memajukan propaganda, untuk membentuk persepsi di dunia. “
“Saat ini pelanggaran itu mengalahkan pertahanan besar-besaran,” katanya.
Senjata biologis
Komunitas intelijen, think tank, dan akademisi Amerika semakin khawatir tentang risiko yang ditimbulkan oleh aktor jahat asing yang mendapatkan akses ke kemampuan AI tingkat lanjut. Para peneliti di Gryphon Scientific dan Rand Corporation mencatat bahwa model AI canggih dapat memberikan informasi yang dapat membantu membuat senjata biologis.
Gryphon mempelajari bagaimana model bahasa besar (LLM) – program komputer yang menarik dari sejumlah besar teks untuk menghasilkan tanggapan terhadap pertanyaan – dapat digunakan oleh aktor yang bermusuhan untuk menyebabkan kerusakan dalam domain ilmu kehidupan dan menemukan bahwa mereka “dapat memberikan informasi yang dapat membantu aktor jahat dalam menciptakan senjata biologis dengan memberikan yang berguna, informasi yang akurat dan terperinci di setiap langkah di jalur ini.”
Mereka menemukan, misalnya, bahwa LLM dapat memberikan pengetahuan tingkat pasca-doktoral untuk memecahkan masalah ketika bekerja dengan virus yang mampu pandemi.
Penelitian Rand menunjukkan bahwa LLM dapat membantu dalam perencanaan dan pelaksanaan serangan biologis. Mereka menemukan LLM dapat, misalnya, menyarankan metode pengiriman aerosol untuk toksin botulinum.
Senjata dunia maya
[[nid:680403]]
DHS mengatakan aktor dunia maya kemungkinan akan menggunakan AI untuk “mengembangkan alat baru” untuk “memungkinkan serangan dunia maya berskala lebih besar, lebih cepat, efisien, dan lebih mengelak” terhadap infrastruktur penting termasuk jaringan pipa dan kereta api, dalam penilaian ancaman tanah air 2024.
China dan musuh lainnya sedang mengembangkan teknologi AI yang dapat merusak pertahanan cyber AS, kata DHS, termasuk program AI generatif yang mendukung serangan malware.
Microsoft mengatakan dalam sebuah laporan Februari bahwa mereka telah melacak kelompok peretasan yang berafiliasi dengan pemerintah China dan Korea Utara serta intelijen militer Rusia, dan Garda Revolusi Iran, ketika mereka mencoba menyempurnakan kampanye peretasan mereka menggunakan model bahasa besar.
Upaya baru untuk mengatasi ancaman
Sekelompok anggota parlemen bipartisan meluncurkan RUU Rabu malam yang akan memudahkan pemerintahan Biden untuk memberlakukan kontrol ekspor pada model AI, dalam upaya untuk melindungi teknologi AS yang berharga terhadap aktor jahat asing.
RUU tersebut, yang disponsori oleh anggota DPR Republik Michael McCaul, John Molenaar, Max Wise dan Demokrat Raja Krishnamoorthi, juga akan memberi Departemen Perdagangan wewenang untuk melarang orang Amerika bekerja dengan orang asing untuk mengembangkan sistem AI yang menimbulkan risiko bagi keamanan nasional AS.
Tony Samp, penasihat kebijakan AI di Washington, mengatakan para pembuat kebijakan di Washington berusaha untuk “mendorong inovasi dan menghindari peraturan berat yang menghambat inovasi” ketika mereka berusaha untuk mengatasi banyak risiko yang ditimbulkan oleh teknologi.
Namun dia memperingatkan bahwa “menindak pengembangan AI melalui regulasi dapat menghambat terobosan potensial di bidang-bidang seperti penemuan obat, infrastruktur, keamanan nasional, dan lainnya, dan menyerahkan tanah kepada pesaing di luar negeri.”
BACA JUGA: Video Palsu Pembantu Modi Picu Pertikaian Politik di Pemilu India
+ There are no comments
Add yours