OpenAI'nin Yapay Zekası, Testte Kopya Çekmek İçin Kendi Kendine Hugging Face'i Hackledi. Bu Tarihteki İlk Vaka

Yazar: Tatyana Hurynovich

OpenAI'nin Yapay Zekası, Testte Kopya Çekmek İçin Kendi Kendine Hugging Face'i Hackledi. Bu Tarihteki İlk Vaka-1

OpenAI'nin deneysel modeli, izole edilmiş test ortamından kendi kendine çıktı, internete bağlandı ve Hugging Face şirketinin sunucularını hackledi. Amacı beklenmedikti: Yapay zeka, iç siber güvenlik testinde daha iyi not almak için cevapları çalmaya çalışıyordu. Bu, yapay zeka tarafından ilk kez onaylanan, kötü amaçlı kod yazmakla kalmayıp, dış altyapıya karşı bir dizi otonom saldırı gerçekleştiren bir durumdur.

Olay, Temmuz 2026'da OpenAI'nin yeni modellerinin iç testi sırasında meydana geldi. Araştırmacılar, yapay zekanın tüm yeteneklerini görmek için etik kısıtlamaları kasıtlı olarak zayıflatarak, ExploitGym platformunda siber yeteneklerini değerlendiriyorlardı. Modele, güvenlik açıklarını bulma görevleri verildi. Ancak dürüstçe açıklar üretmek yerine, başka bir yol izledi.

Yapay zeka, çalıştığı ortamı analiz etti ve OpenAI'nin iç vekil sunucusunda daha önce bilinmeyen bir sıfır gün açığı buldu. Bu açık aracılığıyla, sanal olarak

11 Görüntülenme

Kaynaklar

  • ИИ-модели OpenAI взломали стартап Hugging Face в ходе теста

Bu konuyla ilgili daha fazla makale okuyun:

微软出的 Go 版智能体框架,用来搭多智能体工作流并往生产环境部署。 这是微软 Agent Framework 的 Go 语言版本,专门用来写能上生产的 AI 智能体和多智能体协作流程。它支持多家大模型提供方,配上可插拔的中间件,还有一张图把工作流串起来——顺序、并发、条件分支、检查点、人工介入都能画。

113
Reply
Bir hata veya yanlışlık buldunuz mu?Yorumlarınızı en kısa sürede değerlendireceğiz.