F1RSTIDSaat AI digunakan untuk membaca citra drone, menganalisis intelijen, dan mendukung komando, batas teknis saja tidak cukup tanpa tanggung jawab negara yang jelas.
CEO Thales Patrice Caine menyerukan kerangka internasional untuk mengatur pengembangan AI. Perusahaan pertahanan Prancis itu menilai perlindungan teknis perlu didukung pengawasan pemerintah dan kesepakatan lintas negara, terutama untuk penggunaan militer.
Kecepatan tidak boleh menghapus kendali manusia
AI dapat menyaring data sensor dan mempercepat keputusan. Namun konteks konflik penuh informasi tidak lengkap, gangguan, dan tipu daya. Aturan perlu menentukan kapan manusia wajib menyetujui tindakan, bagaimana kesalahan diselidiki, serta siapa yang bertanggung jawab jika sistem gagal.
Dalam sistem pertahanan, kemampuan menjelaskan dan menghentikan keputusan sama pentingnya dengan kecepatan analisis.
Kedaulatan data menjadi bagian dari keamanan
Thales mempromosikan sistem komando Hexaforce yang tidak bergantung pada aturan ekspor teknologi AS. Perdebatan ini menunjukkan bahwa negara menilai lokasi data, kontrol perangkat lunak, dan akses vendor sebagai komponen strategis, bukan sekadar keputusan teknologi informasi.
Relevansi bagi Indonesia
Indonesia dapat mendorong prinsip audit, pembatasan otonomi, pengujian dalam kondisi ekstrem, dan pencatatan keputusan untuk setiap pengadaan AI pertahanan. Kerja sama internasional tetap diperlukan agar standar berlaku lintas pemasok dan penggunaan teknologi tidak melampaui hukum humaniter.