F1RSTIDInvestor Anthropic Joe Lonsdale mengakui keselamatan AI sebagai isu nyata, tetapi memperingatkan bahwa narasi ketakutan dapat digunakan perusahaan besar untuk memengaruhi kebijakan dan memperkuat posisi pasar.
Kritik tersebut muncul ketika sejumlah pemimpin perusahaan AI menyerukan perlambatan pengembangan model canggih dan pengawasan yang lebih kuat. Pertanyaan pentingnya bukan memilih antara keselamatan atau inovasi, melainkan memastikan bukti, pendanaan advokasi, dan kepentingan komersial dapat diperiksa publik.
Aturan dapat melindungi sekaligus mengunci pasar
Standar keselamatan yang mahal mungkin menurunkan risiko, tetapi juga dapat sulit dipenuhi pendatang baru. Sebaliknya, pasar tanpa ambang minimum dapat memindahkan biaya kegagalan kepada pengguna. Kebijakan yang sehat perlu mengukur risiko berdasarkan kemampuan dan penggunaan sistem, bukan hanya ukuran perusahaan.
Keselamatan kehilangan kepercayaan ketika publik tidak dapat membedakan bukti teknis dari strategi pasar.
Mengapa topik ini penting?
Perusahaan frontier memiliki pengetahuan teknis yang dibutuhkan regulator, sekaligus kepentingan langsung terhadap bentuk aturan. Tanpa transparansi, konsultasi bisa berubah menjadi kesempatan bagi pelaku dominan untuk menentukan pagar yang hanya mereka mampu lewati.
Pelajaran bagi Indonesia
Penyusunan kebijakan AI perlu melibatkan akademisi, masyarakat sipil, perusahaan besar, startup, dan pengguna sektor publik. Setiap usulan sebaiknya dilengkapi bukti risiko, analisis biaya kepatuhan, serta pengungkapan konflik kepentingan. Uji coba terbatas dapat membantu menemukan aturan yang efektif tanpa menutup inovasi lokal.