W poniedziałek 22 krajów przyjęło deklarację, w której podkreślono, że sztuczna inteligencja „musi pozostać pod ludzkim przewodnictwem, nadzorem i kontrolą”. Dokument proponuje również ustanowienie globalnego reżimu nadzoru nad tą technologią.
Deklaracja została podpisana na marginesie Zgromadzenia Ogólnego ONZ w Nowym Jorku. Wśród sygnatariuszy znalazło się kilka państw europejskich, w tym Niemcy. Wielka Brytania jeszcze się nie przyłączyła, a Francja, Włochy i Polska wstrzymały się od podpisu.
Inicjatywę poprowadzili prezydent Finlandii Alexander Stubb i premier Norwegii Jonas Gahr Støre. Mają oni na celu stworzenie międzynarodowego instytutu ds. SI i zaangażowanie w proces USA i Chin.
„Nie jesteśmy panikarzami – zaznaczył Stubb w wywiadzie dla POLITICO. – Ale bez skutecznego nadzoru rosną ryzyka: broń biologiczna stworzona przez SI, cyberataki agentów SI i autonomiczne systemy śmiercionośne”.
Ani USA, ani Chiny nie przystąpiły do deklaracji. Stubb wyraził jednak nadzieję, że dokument stworzy impuls do szerszego zaangażowania. Spotkanie prezydentów Donalda Trumpa i Xi Jinpinga, zaplanowane na czwartek, nadaje tematowi dodatkowej aktualności.
Tego samego dnia OpenAI opublikowało propozycje globalnych standardów technicznych dla zaawansowanych systemów SI. Firma wezwała USA do podjęcia przewodnictwa w koordynacji takich standardów za pośrednictwem Centrum ds. Standardów i Innowacji w Dziedzinie SI przy Departamencie Handlu.
OpenAI podkreśla potrzebę wspólnych pomiarów, protokołów raportowania incydentów i środków kontroli rekursywnego samodoskonalenia modeli. Celem jest utrzymanie systemów zgodnych z ludzkimi wartościami i pod kontrolą ludzi.
Dyrektor generalny OpenAI, Sam Altman, planuje wystąpić przed Radą Bezpieczeństwa ONZ w środę. Jaki balans między bezpieczeństwem a innowacjami uda się osiągnąć mocarstwom w najbliższych dniach?
Deklaracja i inicjatywa OpenAI pokazują, że dyskusja o regulacji SI wchodzi na nowy poziom – od działań krajowych do prób międzynarodowej koordynacji. Na razie główni gracze pozostają z boku, ale presja na poszukiwanie wspólnych podejść rośnie.
