Штучний інтелект розвивається настільки швидко, що тривогу б'ють уже не лише його критики, а й люди, які самі стояли біля витоків сучасної AI-індустрії.
Причому важливо уточнити: більшість із них виступають не проти ШІ загалом. Вони говорять про інше — про те, що гонка за дедалі потужнішими моделями йде швидше, ніж з'являються зрозумілі правила безпеки, контролю та відповідальності.
Один із найвідоміших голосів — Джеффрі Гінтон, один із «хрещених батьків» сучасного ШІ. Після виходу з Google він став значно відкритіше говорити про ризики: від масового витіснення людей з ринку праці до появи систем, які одного дня можуть стати складнішими для контролю, ніж ми припускаємо.
Ще одна ключова людина — Йошуа Бенжіо, також один із піонерів глибокого навчання. Останніми роками він дедалі активніше займається питаннями безпеки ШІ та закликає держави не чекати великих інцидентів, а заздалегідь створювати незалежний нагляд і обмеження для найпотужніших систем.
У 2023 році Бенжіо підтримав відкритий лист із закликом щонайменше на пів року призупинити навчання систем потужніших за GPT-4.
Серед підписантів був і Ілон Маск. Він підтримав ідею паузи в гонці найбільших AI-моделей, щоб за цей час з'явилися надійніші правила, стандарти безпеки та способи контролю.
До цього ж заклику долучився співзасновник Apple Стів Возняк. Пізніше він окремо говорив про те, що розробники мають бути прозорішими й нести відповідальність за шкоду, яку може завдати технологія.
Серед найвідоміших інтелектуалів — історик і письменник Юваль Ной Харарі. Він давно попереджає, що особлива небезпека ШІ полягає не лише в «розумних машинах», а й у здатності алгоритмів масово генерувати тексти, зображення та переконливий контент. На його думку, це може серйозно змінити інформаційне середовище та способи, якими люди ухвалюють рішення.
Один із найпослідовніших критиків безконтрольної гонки — професор Каліфорнійського університету в Берклі Стюарт Рассел, співавтор одного з найвідоміших підручників зі штучного інтелекту.
Його позиція досить проста: проблема виникає, якщо ми створюємо системи, здатні досягати цілей ефективніше за людину, але при цьому не можемо гарантувати, що їхні цілі справді збігаються з нашими.
І особливо показово, що обережніше стали говорити навіть керівники найбільших AI-компаній.
Глава Anthropic Даріо Амодеї публічно закликав до повільнішого й контрольованішого розвитку передових моделей, щоб методи безпеки встигали за їхніми можливостями. Він виступає за незалежні перевірки, спільні стандарти та міжнародну співпрацю.
Навіть Сем Альтман, глава OpenAI, неодноразово говорив про необхідність регулювання найпотужніших систем і про те, що розвиток ШІ не повинен перетворюватися на гонку, де швидкість стає важливішою за безпеку.
Схожі ідеї висловлював і глава Google DeepMind Деміс Гассабіс. Найбільші AI-компанії дедалі частіше обговорюють спільні підходи до контролю за найсерйознішими ризиками.
У підсумку складається досить парадоксальна картина.
Гінтон, Бенжіо, Рассел, Маск, Возняк, Харарі, Амодеї, Альтман та інші можуть сильно розходитися в оцінці масштабу загрози та в тому, наскільки сильно потрібно гальмувати розвиток. Але сходяться вони в одному: залишати надпотужний ШІ взагалі без правил — погана ідея.
Водночас є й серйозні скептики.
Деякі фахівці вважають розмови про «кінець людства» сильно перебільшеними й нагадують, що нинішні системи все ще мають безліч обмежень.
Інші підозрюють, що великим AI-компаніям вигідно підтримувати розмови про жорстке регулювання, бо це може ускладнити життя невеликим конкурентам.
Тому навколо теми точиться дуже серйозна суперечка, і єдиної думки в науковій спільноті немає.
Але сам факт примітний: ще кілька років тому питання звучало як:
«Що зможе ШІ?»
Тепер усе частіше ставлять інше:
«А чи встигнемо ми навчитися ним керувати раніше, ніж він стане занадто потужним?»
