Зміст
Експерт з ШІ: Прогнози про вимирання людства від штучного інтелекту – це наукова фантастика
Один з піонерів глибокого навчання, Ендрю Нг, публічно виступив проти нової хвилі побоювань, згідно з якими штучний інтелект (ШІ) може становити екзистенційну загрозу для людства. У недавньому інтерв’ю Bloomberg TV він охарактеризував подібні прогнози як “набагато більше наукову фантастику, ніж науку”, що привернуло увагу видання Business Insider.
Наукові суперечки та прагматичний підхід
Нг, відомий як співзасновник Google Brain і Coursera, а також наставник таких ключових фігур у сфері ШІ, як Даріо Амодеї (CEO Anthropic) і Сем Альтман (CEO OpenAI), висловив своє здивування недавніми заявами від дослідників і керівників ШІ-компаній. На його думку, нова хвиля “піару” навколо катастрофічних сценаріїв розвитку ШІ, ймовірно, викликана тими ж причинами, що й у минулі рази. Він натякнув, що індустрія вже використовувала подібні апокаліптичні передбачення для впливу на регуляторні органи та залучення уваги громадськості.
Нг закликав зосередитися не на сценаріях вимирання, а на “практичних інженерних проблемах”, таких як тестування систем і вдосконалення механізмів безпеки. Він визнав, що ШІ несе реальні ризики, в тому числі в області кібербезпеки, але наполягає на необхідності фокусування на конкретних інженерних завданнях, а не на гіпотетичних сценаріях загибелі людства. Варто зазначити, що це не перша подібна заява Нга. Ще в грудні 2023 року на форумі Сенату США він оцінював ймовірність вимирання людства від ШІ приблизно в одну з десяти мільйонів протягом наступного століття.
Розбіжності в індустрії
Каталізатором недавніх суперечок стало попередження Джейкоба Коксона, колишнього дослідника Anthropic і OpenAI. Він заявив, що ШІ-компанії “стремляться до створення суперінтелекту” і можуть “вбити нас усіх до кінця десятиліття”. Після цього заяви генеральні директори Anthropic Даріо Амодей і OpenAI Сем Альтман публічно закликали до посилення заходів безпеки та уповільнення темпів розробки передових моделей.
Однак не всі поділяють цю точку зору. Інвестор Стів Айзман, відомий своїм точним прогнозом фінансової кризи 2008 року, висловив скептицизм щодо “алармістської” риторики. Виступаючи на CNBC, він припустив, що у ШІ-компаній можуть бути комерційні мотиви за їхніми заявами про безпеку. “Я вважаю все це нісенітницею. Ці компанії дуже нервують. Вони розуміють, що у їхнього бізнесу немає жодних захисних бар’єрів, і намагаються сфабрикувати кризу, яка призведе до регулювання”, – заявив Айзман. На його думку, таке регулювання може лише зміцнити позиції великих гравців і закріпити їх монополію. Він навіть назвав всю цю історію “бредом з «Термінатора»”.
Подібні погляди поділяють і інші представники індустрії. Генеральний директор Nvidia Дженсен Хуанг стверджує, що “безпека – це інженерна проблема, а не юридична”, і компанії можуть розвиватися швидко, зупиняючись лише при реальній небезпеці. Голова Meta Марк Цукерберг вважає, що конкуренція та юридична відповідальність самі по собі стимулюють безпечну розробку ШІ, без необхідності скоординованого уповільнення галузі. Навіть президент США Дональд Трамп назвав побоювання щодо ШІ “містифікацією” і виступив проти заходів, які можуть уповільнити американську гонку ШІ з Китаєм.
Широкий контекст: протистояння підходів
Дискусія про темпи розвитку штучного інтелекту стала однією з ключових тем у технологічній індустрії. З одного боку, звучать заклики до обережності та уповільнення від частини дослідників і керівників провідних лабораторій. З іншого боку, представники бізнесу та політики наполягають на тому, що надмірна обережність лише гальмує технологічний прогрес і послаблює конкурентні позиції США. Позиція Ендрю Нга вписується у другий табір. Він не заперечує наявність реальних ризиків, пов’язаних із ШІ, але вважає, що фокус на гіпотетичних сценаріях вимирання людства відволікає ресурси та увагу від практичної роботи над забезпеченням безпеки систем, яка ведеться вже зараз.
