Sztuczna inteligencja rozwija się tak szybko, że na alarm biją już nie tylko jej krytycy, ale i ludzie, którzy sami stali u początków współczesnego przemysłu AI.
Co ważne, trzeba doprecyzować: większość z nich nie występuje przeciwko AI jako takiej. Mówią o czymś innym — o tym, że wyścig po coraz potężniejsze modele postępuje szybciej, niż pojawiają się jasne zasady bezpieczeństwa, kontroli i odpowiedzialności.
Jednym z najbardziej znanych głosów jest Jeffrey Hinton, jeden z „ojców chrzestnych” współczesnej AI. Po odejściu z Google zaczął znacznie otwarciej mówić o ryzykach: od masowego wypierania ludzi z rynku pracy po pojawienie się systemów, które pewnego dnia mogą stać się trudniejsze do kontrolowania, niż przypuszczamy.
Kolejną kluczową postacią jest Joshua Bengio, również jeden z pionierów głębokiego uczenia. W ostatnich latach coraz aktywniej zajmuje się kwestiami bezpieczeństwa AI i wzywa państwa, by nie czekały na poważne incydenty, lecz zawczasu tworzyły niezależny nadzór i ograniczenia dla najpotężniejszych systemów.
W 2023 roku Bengio poparł list otwarty z apelem o co najmniej półroczne wstrzymanie trenowania systemów potężniejszych niż GPT-4.
Wśród sygnatariuszy był także Elon Musk. Poparł ideę pauzy w wyścigu największych modeli AI, aby w tym czasie powstały bardziej niezawodne zasady, standardy bezpieczeństwa i sposoby kontroli.
Do tego samego apelu przyłączył się współzałożyciel Apple’a Steve Wozniak. Później osobno mówił o tym, że twórcy powinni być bardziej przejrzyści i ponosić odpowiedzialność za szkody, które technologia może wyrządzić.
Wśród najbardziej znanych intelektualistów jest historyk i pisarz Yuval Noah Harari. Od dawna ostrzega, że szczególne niebezpieczeństwo AI polega nie tylko na „inteligentnych maszynach”, ale także na zdolności algorytmów do masowego generowania tekstów, obrazów i przekonujących treści. Jego zdaniem może to poważnie zmienić środowisko informacyjne i sposoby, w jakie ludzie podejmują decyzje.
Jednym z najbardziej konsekwentnych krytyków niekontrolowanego wyścigu jest profesor Uniwersytetu Kalifornijskiego w Berkeley Stuart Russell, współautor jednego z najbardziej znanych podręczników do sztucznej inteligencji.
Jego stanowisko jest dość proste: problem pojawia się, gdy tworzymy systemy, które potrafią osiągać cele skuteczniej niż człowiek, a jednocześnie nie możemy zagwarantować, że ich cele rzeczywiście pokrywają się z naszymi.
I szczególnie wymowne jest to, że ostrożniej zaczęli mówić nawet szefowie największych firm AI.
Szef Anthropic Dario Amodei publicznie wzywał do wolniejszego i bardziej kontrolowanego rozwoju zaawansowanych modeli, aby metody bezpieczeństwa nadążały za ich możliwościami. Opowiada się za niezależnymi kontrolami, wspólnymi standardami i współpracą międzynarodową.
Nawet Sam Altman, szef OpenAI, wielokrotnie mówił o konieczności regulowania najpotężniejszych systemów i o tym, że rozwój AI nie powinien zamieniać się w wyścig, w którym szybkość staje się ważniejsza od bezpieczeństwa.
Podobne idee wyrażał także szef Google DeepMind Demis Hassabis. Największe firmy AI coraz częściej dyskutują o wspólnych podejściach do kontroli nad najpoważniejszymi ryzykami.
W rezultacie wyłania się dość paradoksalny obraz.
Hinton, Bengio, Russell, Musk, Wozniak, Harari, Amodei, Altman i inni mogą znacznie różnić się w ocenie skali zagrożenia i w tym, jak mocno trzeba hamować rozwój. Ale zgadzają się co do jednego: pozostawienie superpotężnej AI całkowicie bez zasad to zły pomysł.
Jednocześnie nie brakuje też poważnych sceptyków.
Niektórzy specjaliści uważają rozmowy o „końcu ludzkości” za mocno przesadzone i przypominają, że obecne systemy wciąż mają wiele ograniczeń.
Inni podejrzewają, że dużym firmom AI opłaca się podtrzymywać rozmowy o twardych regulacjach, bo może to utrudnić życie mniejszym konkurentom.
Dlatego wokół tego tematu toczy się bardzo poważny spór i w środowisku naukowym nie ma jednomyślności.
Ale sam fakt jest godny uwagi: jeszcze kilka lat temu pytanie brzmiało tak:
«Co będzie potrafiła sztuczna inteligencja?»
Teraz coraz częściej zadaje się inne:
«A czy zdążymy nauczyć się nią zarządzać, zanim stanie się zbyt potężna?»
