Yapay zekâ o kadar hızlı gelişiyor ki, artık yalnızca eleştirmenleri değil, modern yapay zekâ endüstrisinin temellerinde yer almış kişiler de alarm veriyor.
Üstelik şunu da netleştirmek gerekir: Bunların çoğu genel olarak yapay zekâya karşı değil. Başka bir şeyden söz ediyorlar — giderek daha güçlü modeller peşindeki yarışın, anlaşılır güvenlik, denetim ve sorumluluk kurallarının ortaya çıkmasından daha hızlı ilerlediğinden.
En tanınmış seslerden biri — Geoffrey Hinton, modern yapay zekânın «vaftiz babalarından» biri. Google'dan ayrıldıktan sonra riskler hakkında çok daha açık konuşmaya başladı: insanların işgücü piyasasından kitlesel olarak dışlanmasından, bir gün kontrol edilmesinin varsaydığımızdan daha zor hale gelebilecek sistemlerin ortaya çıkmasına kadar.
Bir diğer kilit isim — Yoshua Bengio, o da derin öğrenmenin öncülerinden biri. Son yıllarda yapay zekâ güvenliği konularıyla giderek daha aktif biçimde ilgileniyor ve devletlere büyük olayları beklememeleri, en güçlü sistemler için önceden bağımsız gözetim ve sınırlamalar oluşturmaları çağrısında bulunuyor.
2023 yılında Bengio, GPT-4'den daha güçlü sistemlerin eğitiminin en az altı ay durdurulması çağrısını içeren açık mektubu destekledi.
İmzacılar arasında Elon Muskda vardı. En büyük yapay zekâ modelleri yarışına bir ara verilmesi fikrini destekledi; böylece bu süre zarfında daha güvenilir kurallar, güvenlik standartları ve denetim yöntemleri ortaya çıkabilirdi.
Bu çağrıya Apple'ın kurucu ortaklarından Steve Wozniakda katıldı. Daha sonra ayrıca, geliştiricilerin daha şeffaf olması ve teknolojinin verebileceği zarardan sorumlu tutulması gerektiğini söyledi.
En tanınmış entelektüeller arasında tarihçi ve yazar Yuval Noah Hararide var. Uzun zamandır yapay zekânın asıl tehlikesinin yalnızca «akıllı makineler» değil, algoritmaların kitlesel olarak metin, görüntü ve ikna edici içerik üretebilme yeteneği olduğu konusunda uyarıyor. Ona göre bu, bilgi ortamını ve insanların karar alma biçimlerini ciddi şekilde değiştirebilir.
Denetimsiz yarışın en tutarlı eleştirmenlerinden biri — Berkeley'deki Kaliforniya Üniversitesi'nden profesör Stuart Russell, yapay zekâ üzerine en tanınmış ders kitaplarından birinin ortak yazarı.
Onun tutumu oldukça basit: Sorun, insandan daha verimli biçimde hedeflere ulaşabilen, ancak hedeflerinin gerçekten bizimkilerle örtüştüğünü garanti edemediğimiz sistemler yarattığımızda ortaya çıkar.
Ve en dikkat çekici olanı, en büyük AI şirketlerinin yöneticilerinin bile artık daha temkinli konuşmaya başlaması.
Anthropic'in başı Dario Amodei ileri düzey modellerin geliştirilmesinin daha yavaş ve denetimli ilerlemesi, böylece güvenlik yöntemlerinin onların yeteneklerine yetişebilmesi için kamuoyu önünde çağrıda bulundu. Bağımsız denetimleri, ortak standartları ve uluslararası işbirliğini savunuyor.
Hatta Sam Altman, OpenAI'nin başı, en güçlü sistemlerin düzenlenmesi gerektiğini ve yapay zekâ gelişiminin, hızın güvenlikten daha önemli hale geldiği bir yarışa dönüşmemesi gerektiğini defalarca dile getirdi.
Benzer fikirleri Google DeepMind'ın başı Demis Hassabisde dile getirdi. En büyük AI şirketleri, en ciddi risklerin denetlenmesine yönelik ortak yaklaşımları giderek daha sık tartışıyor.
Sonuçta oldukça paradoksal bir tablo ortaya çıkıyor.
Hinton, Bengio, Russell, Musk, Wozniak, Harari, Amodei, Altman ve diğerleri, tehdidin ölçeğini değerlendirme ve gelişimin ne kadar güçlü biçimde yavaşlatılması gerektiği konusunda büyük ölçüde ayrışabilir. Ancak tek bir noktada birleşiyorlar: Aşırı güçlü yapay zekâyı tamamen kuralsız bırakmak kötü bir fikir.
Bununla birlikte ciddi kuşkucular da var.
Bazı uzmanlar «insanlığın sonu» üzerine konuşmaları fazlasıyla abartılı buluyor ve mevcut sistemlerin hâlâ pek çok sınırlaması olduğunu hatırlatıyor.
Diğerleri ise büyük AI şirketlerinin katı düzenleme konuşmalarını sürdürmesinin işlerine geldiğinden kuşkulanıyor, çünkü bu küçük rakiplerin işini zorlaştırabilir.
Bu nedenle konu etrafında çok ciddi bir tartışma sürüyor ve bilim camiasında tek bir görüş yok.
Ancak şu gerçeğin kendisi dikkat çekici: Birkaç yıl önce soru şöyleydi:
«Yapay zekâ neler yapabilecek?»
Artık giderek daha sık başka bir soru soruluyor:
«Peki biz o çok güçlü hale gelmeden önce onu yönetmeyi öğrenebilecek miyiz?»
