Pemerintahan Donald Trump disebut sedang mempertimbangkan langkah kolosal untuk mengawasi perkembangan AI generatif di Amerika Serikat. Salah satu opsi yang dibahas adalah mewajibkan model AI baru melewati proses peninjauan dan persetujuan pemerintah sebelum mampu dirilis ke publik.
Kalau benar diterapkan, langkah ini bakal jadi perubahan arah yang cukup drastis. Selama ini pemerintah AS justru dikenal lebih longgar terhadap industri AI dan beberapa kali mengkritik regulasi ketat ala Uni Eropa yang dianggap memperlambat inovasi teknologi.
Wacana pengawasan modern ini muncul setelah kekhawatiran terhadap model AI terbaru milik Anthropic bernama Mythos. Dalam pengujian internal, model tersebut disebut mampu menemukan dan mengeksploitasi celah keamanan siber dalam skala luas. Sebab risikonya dianggap terlalu tinggi, Anthropic memutuskan menahan perilisan publiknya.
Situasi itu menghasilkan sebagian pihak di pemerintahan mulai mendorong sistem pengawasan guna model AI, mirip dengan sistem pengawasan ala FDA, yaitu lembaga yang mengatur persetujuan obat di Amerika Serikat. Jadi sebelum AI dilepas ke masyarakat, model tersebut mesti lolos pengujian independen yang diawasi pemerintah.
Tapi sejumlah luas yang menilai ini tidak mampu disamakan. Obat punya struktur kimia yang tetap sehingga risikonya masih mampu diukur. Sementara AI generatif bekerja jauh lebih kompleks. Responsnya mampu berubah tergantung konteks, input pengguna, dan interaksi miliaran parameter di dalam model.
Hal itu pun terlihat dari fenomena “halusinasi AI” yang sampai kini belum benar-benar hilang. Bahkan beberapa penelitian menunjukkan model AI terbaru kadang justru makin tidak jarang menghadirkan jawaban ngawur dibanding generasi sebelumnya.
Karena itu, kritik mulai muncul terhadap ide sertifikasi “AI aman” dari pemerintah. Jika pengembang model saja belum sanggup memprediksi seluruh perilaku AI mereka sendiri, muncul pertanyaan apakah pemerintah benar-benar mampu memberi label aman secara akurat.
Di sisi lain, ada kekhawatiran regulasi seperti ini justru memperkuat dominasi perusahaan luas. Biaya pengujian dan kepatuhan tentu tidak murah. OpenAI, Anthropic, atau Google mungkin masih sanggup menanggungnya, tapi startup kecil sanggup kesulitan masuk pasar.
Pendekatan seperti ini pun dinilai lebih fleksibel dibanding lisensi pemerintah yang kaku. Industri mampu terus bereksperimen sambil memperbaiki standar keamanan berdasarkan pengalaman nyata di lapangan.
Pada akhirnya, perdebatan soal regulasi AI di AS kini mulai masuk fase baru. Pemerintah ingin mengurangi risiko dari AI yang makin canggih, akan tetapi di saat yang sama pun perusahaan teknologi pun harus berhati-hati agar ini tidak malah mematikan inovasi di industri teknologi.
Sumber
