Содержание
Эксперт по ИИ: Прогнозы о вымирании человечества от искусственного интеллекта – это научная фантастика
Один из пионеров глубокого обучения, Эндрю Ын, публично выступил против новой волны опасений, согласно которым искусственный интеллект (ИИ) может представлять собой экзистенциальную угрозу для человечества. В недавнем интервью Bloomberg TV он охарактеризовал подобные прогнозы как “намного больше научную фантастику, чем науку”, что привлекло внимание издания Business Insider.
Научные споры и прагматичный подход
Ын, известный как соучредитель Google Brain и Coursera, а также наставник таких ключевых фигур в сфере ИИ, как Дарио Амодеи (CEO Anthropic) и Сэм Альтман (CEO OpenAI), выразил свое удивление недавними заявлениями от исследователей и руководителей ИИ-компаний. По его мнению, новая волна “пиара” вокруг катастрофических сценариев развития ИИ, вероятно, вызвана теми же причинами, что и в прошлые разы. Он намекнул, что индустрия уже использовала подобные апокалиптические предсказания для влияния на регуляторные органы и привлечения внимания общественности.
Ын призвал сосредоточиться не на сценариях вымирания, а на “практических инженерных проблемах”, таких как тестирование систем и совершенствование механизмов безопасности. Он признал, что ИИ несет реальные риски, в том числе в области кибербезопасности, но настаивает на необходимости фокусировки на конкретных инженерных задачах, а не на гипотетических сценариях гибели человечества. Стоит отметить, что это не первое подобное заявление Ына. Еще в декабре 2023 года на форуме Сената США он оценивал вероятность вымирания человечества от ИИ примерно в одну из десяти миллионов в течение следующего столетия.
Разногласия в индустрии
Катализатором недавних споров стало предупреждение Джейкоба Коксона, бывшего исследователя Anthropic и OpenAI. Он заявил, что ИИ-компании “стремятся к созданию супер-интеллекта” и могут “убить нас всех до конца десятилетия”. После этого заявления генеральные директора Anthropic Дарио Амодей и OpenAI Сэм Альтман публично призвали к усилению мер безопасности и замедлению темпов разработки передовых моделей.
Однако не все разделяют эту точку зрения. Инвестор Стив Айзман, известный своим точным прогнозом финансового кризиса 2008 года, выразил скепсис по поводу “алармистской” риторики. Выступая на CNBC, он предположил, что у ИИ-компаний могут быть коммерческие мотивы за их заявлениями о безопасности. “Я считаю все это чепухой. Эти компании очень нервничают. Они понимают, что у их бизнеса нет никаких защитных барьеров, и пытаются сфабриковать кризис, который приведет к регулированию”, – заявил Айзман. По его мнению, такое регулирование может лишь укрепить позиции крупных игроков и закрепить их монополию. Он даже назвал всю эту историю “бредом из «Терминатора»”.
Подобные взгляды разделяют и другие представители индустрии. Генеральный директор Nvidia Дженсен Хуанг утверждает, что “безопасность – это инженерная проблема, а не юридическая”, и компании могут развиваться быстро, останавливаясь только при реальной опасности. Глава Meta Марк Цукерберг считает, что конкуренция и юридическая ответственность сами по себе стимулируют безопасную разработку ИИ, без необходимости скоординированного замедления отрасли. Даже президент США Дональд Трамп назвал опасения по поводу ИИ “мистификацией” и выступил против мер, которые могут замедлить американскую гонку ИИ с Китаем.
Широкий контекст: противостояние подходов
Дискуссия о темпах развития искусственного интеллекта стала одной из ключевых тем в технологической индустрии. С одной стороны, звучат призывы к осторожности и замедлению от части исследователей и руководителей ведущих лабораторий. С другой стороны, представители бизнеса и политики настаивают на том, что чрезмерная осторожность лишь затормозит технологический прогресс и ослабит конкурентные позиции США. Позиция Эндрю Ына вписывается во второй лагерь. Он не отрицает наличие реальных рисков, связанных с ИИ, но считает, что фокус на гипотетических сценариях вымирания человечества отвлекает ресурсы и внимание от практической работы над обеспечением безопасности систем, которая ведется уже сейчас.
