Para pemimpin perusahaan pengembang model kecerdasan buatan terkuat secara mengejutkan menjadi investor bagi sebuah startup yang justru bertugas membatasi sistem mereka. Perusahaan asal Prancis, White Circle, berhasil mengantongi pendanaan sebesar 11 juta dolar dari jajaran petinggi OpenAI, Anthropic, serta DeepMind untuk menyediakan alat pemantauan dan proteksi sistem AI bagi sektor bisnis.
Langkah ini bukan sekadar menunjukkan terobosan teknologi, melainkan sebuah pengakuan bahwa pencipta model tercanggih sekalipun belum tentu mampu menangani sendiri risiko dari adopsi massal teknologi tersebut. White Circle tengah mengembangkan platform yang mampu memantau perilaku AI secara waktu nyata (real-time) di dalam infrastruktur perusahaan.
Sistem ini berfungsi mendeteksi anomali, potensi kebocoran data, serta upaya model untuk melampaui batasan yang telah ditetapkan. Berbeda dengan solusi keamanan siber konvensional, fokus platform ini terletak pada logika operasional jaringan saraf itu sendiri—mulai dari proses pembuatan jawaban hingga interaksinya dengan basis data internal. Para investor yang berurusan langsung dengan model-model ini setiap harinya melihat proyek tersebut sebagai cara efektif untuk menekan risiko reputasi dan hukum bagi para klien.
Pendanaan ini tidak datang dari modal ventura (VC), melainkan langsung dari tokoh-tokoh kunci di industri tersebut. Hal ini mengubah pola yang biasa terjadi; umumnya, startup di bidang keamanan mendapatkan kucuran dana dari investor teknologi secara umum. Dalam kasus ini, modal justru berasal dari pihak-pihak yang berpotensi memikul tanggung jawab atas masalah yang coba diselesaikan oleh White Circle.
Langkah tersebut mengindikasikan semakin besarnya kebutuhan akan kendali independen, terutama saat para pengembang model mulai menyadari keterbatasan keahlian mereka dalam hal operasional lapangan. Bagi dunia usaha, fenomena ini menghadirkan lapisan tanggung jawab baru. Perusahaan yang mengintegrasikan AI ke dalam proses pengambilan keputusan kini harus mempertimbangkan tidak hanya akurasi jawaban, tetapi juga kemungkinan adanya perilaku model yang tidak terduga.
White Circle menawarkan berbagai perangkat yang memungkinkan pendokumentasian insiden tersebut sekaligus penyusunan laporan bagi pihak regulator. Di tengah pengetatan regulasi di Eropa dan Amerika Serikat, pemantauan semacam ini diprediksi akan menjadi elemen wajib dalam infrastruktur perusahaan. Situasi ini mengingatkan pada sejarah industri otomotif di awal abad ke-20: awalnya produsen menjual mobil tanpa sabuk pengaman, namun kemudian mereka jugalah yang berinvestasi pada standar dan sistem keselamatan yang membatasi penggunaan kendaraan tersebut.
Hal serupa kini terjadi di sini—pihak-pihak yang mempercepat penyebaran AI justru sekaligus menciptakan mekanisme untuk membendungnya. Ini bukanlah sebuah kontradiksi, melainkan reaksi alami terhadap besarnya konsekuensi yang dipertaruhkan, di mana satu kesalahan model dapat berdampak pada ribuan pengguna atau jutaan transaksi.
