F1RSTIDKasus Federal Register memperlihatkan bahwa risiko AI tidak dapat dinilai hanya dari negara asal model; arsitektur penerapan, data, operator, dan akses sistem juga menentukan.
Federal Register, situs resmi pemerintah Amerika Serikat, diketahui menggunakan alat pencarian berbasis Qwen milik Alibaba. Model tersebut kemudian dihapus setelah penggunaannya mendapat perhatian publik, di tengah kritik pemerintah AS terhadap teknologi AI China.
Model terbuka tidak sama dengan layanan asing
Risiko berbeda antara menjalankan bobot model pada server sendiri dan mengirim permintaan ke infrastruktur yang dikendalikan penyedia luar. Data yang diproses juga penting. Pencarian atas dokumen publik memiliki profil risiko berbeda dari analisis dokumen rahasia atau informasi warga.
Kebijakan pengadaan yang matang menilai aliran data dan kontrol teknis, bukan sekadar nama perusahaan atau negara.
Mengapa topik ini penting?
Ketidakkonsistenan antara pernyataan keamanan nasional dan praktik teknis dapat merusak kepercayaan. Larangan terlalu luas juga dapat menghilangkan alat yang berguna tanpa bukti risiko yang tepat. Pemerintah membutuhkan inventaris model, uji keamanan, serta dokumentasi alasan pemilihan.
Pelajaran bagi sektor publik Indonesia
Setiap sistem AI pemerintah perlu mencatat model, versi, lokasi pemrosesan, data masukan, penyedia, dan pihak yang bertanggung jawab. Data publik, internal, dan rahasia harus memiliki aturan berbeda. Proses penilaian perlu konsisten agar kebijakan tidak berubah hanya setelah kontroversi muncul.