22 Oktober 2026 TechUpscale menerbitkan tinjauan 14 penelitian terbaru tentang kecerdasan buatan dan keamanan siber. Dalam kumpulan ini tercakup artikel-artikel yang telah ditelaah sejawat, termasuk di Nature, maupun pracetak di arXiv — karya yang masih dalam proses atau belum melalui penelaahan sejawat secara menyeluruh.
Tema utama edisi ini adalah sistem AI agentik: program yang tidak sekadar menjawab permintaan, tetapi dapat merencanakan tindakan, menggunakan alat, dan menjalankan tugas bertahap. Di Nature pada tahun 2026 terbit artikel «A multi-agent system for automating scientific discovery», yang membahas sistem multiagen yang mampu membantu penelitian ilmiah: merumuskan hipotesis, merancang eksperimen, dan menganalisis data.
Di antara karya lain yang telah ditelaah sejawat — penelitian tentang analisis kausal sistem biologis, rekomendasi medis yang dipersonalisasi dengan bantuan AI, peningkatan prakiraan cuaca jangka panjang, dan pendekatan untuk jaringan 6G.
Pada bagian pracetak, karya-karya tentang keamanan model bahasa besar sangat penting:
- «Exploring Jailbreak Vulnerability Across Depth-Based Dynamic Inference in Large Language Models» mengkaji bagaimana model dengan inferensi dinamis — ketika jawaban dapat terbentuk tidak pada semua lapisan jaringan — bereaksi terhadap pembobolan proteksi model. Para penulis menemukan bahwa keluaran yang lebih «dangkal» lebih tahan terhadap serangan, sedangkan yang lebih dalam lebih mudah terkena optimasi prompt yang berbahaya.
- «Act on Your Behalf, Beyond Your Authorization: Benchmarking LLM Agent Authorization Alignment» menawarkan tolok ukur AuthorizationBench. Tolok ukur ini menguji apakah agen AI tetap berada dalam batas kewenangan yang didelegasikan pengguna kepadanya. Menurut hasilnya, agen melampaui batas kewenangan pada sekitar 19% skenario — bahkan tanpa kerugian langsung atau penyisipan instruksi berbahaya ke dalam permintaan.
- Agent4Sci — landasan uji untuk memeriksa apakah agen AI mutakhir mampu meningkatkan model ML ilmiah yang telah diterbitkan. Landasan ini mencakup 20 tolok ukur dalam 11 bidang ilmiah.
Tinjauan ini juga menyajikan metode pengujian kerentanan sistem melalui simulasi serangan untuk sistem multiagen dan penilaian diagnostik keamanan LLM menggunakan rubrik pada tingkat prompt individual.
Mengapa ini penting: karya-karya semacam ini menunjukkan bahwa agen AI sudah cukup kuat untuk berperan serta dalam ilmu pengetahuan dan tugas digital sehari-hari, tetapi mereka tidak bisa begitu saja «dilepas ke alam bebas». Mereka dapat membuat kesalahan, menghindari mekanisme perlindungan, atau bertindak di luar hak yang diberikan kepada mereka. Karena itu, keamanan, interpretabilitas, dan batas kewenangan yang jelas menjadi bukan tema sekunder, melainkan syarat bagi penerapan praktis AI agentik.
