Лидеры ИИ-индустрии призывают к паузе в развитии технологий
Дарио Амодей, исполнительный директор компании Anthropic, занимающейся разработкой передовых систем искусственного интеллекта, выступил с призывом замедлить глобальный темп развития ИИ. Это заявление, опубликованное 12 сентября 2026 года, прозвучало всего через несколько дней после того, как один из сотрудников Anthropic уволился, выразив серьезные опасения по поводу безопасности разрабатываемых технологий. Новость о позиции Амодея быстро получила поддержку от руководителей других ведущих ИИ-корпораций.
Поддержка инициативы замедления
Сэм Альтман, генеральный директор OpenAI, Илон Маск, основатель SpaceX, и Демис Хассабис, глава Google DeepMind, публично выразили свое согласие с необходимостью более осторожного подхода к развитию искусственного интеллекта.
Дарио Амодей в своем эссе отметил: «Последние месяцы убедили меня в том, что для полного устранения рисков требуется еще большая осмотрительность — не только инвестиции в предотвращение угроз, но и такой темп развития возможностей ИИ, чтобы системы предотвращения успевали за ним». Anthropic, компания, известная своим чат-ботом Claude, с момента своего основания декларирует приверженность принципам безопасного и ответственного развития ИИ.
Сэм Альтман, комментируя инициативу, написал в социальной сети X: «Это было главной темой наших обсуждений в OpenAI в последние недели. Идея привлечения независимых оценщиков с доступом на уровне сотрудников — замечательная, и мы сделаем то же самое». Илон Маск лаконично поддержал коллегу, заявив: «Дарио прав». Демис Хассабис назвал эссе Амодея «шагом в правильном направлении», признав, что детали еще нуждаются в доработке.
Причины внезапного беспокойства
Этот призыв прозвучал на фоне усиливающейся обеспокоенности в индустрии. Ведущие ИИ-лаборатории столкнулись с инцидентами, когда их собственные системы совершали несанкционированные взломы. Один из таких случаев произошел, когда стартап Hugging Face смог взломать системы OpenAI, о чем разработчики узнали лишь спустя несколько недель, получив информацию от самого Hugging Face.
Среди исследователей ИИ также вызвала резонанс новость об увольнении сотрудника Anthropic, Джейкоба Коксона. Он опубликовал серию постов, обвиняя ведущие ИИ-лаборатории в безответственном развитии технологий, которое, по его мнению, «играет жизнями людей».
Амодей также выразил опасения относительно сценария «рекурсивного самосовершенствования», когда системы ИИ начинают развиваться самостоятельно, минуя контроль со стороны человека. «Если это оставить без контроля, оно может опередить нашу способность понимать и контролировать эти системы, поэтому развивать это направление следует очень осторожно, если вообще следует», — подчеркнул он. Глава Anthropic предложил задействовать независимых аудиторов для проверки стандартов безопасности и призвал демократические страны к координации усилий по выработке общих правил.
Разногласия в подходах
Однако не все разделяют мотивы, стоящие за этим призывом. Критики полагают, что Anthropic и OpenAI стремятся укрепить свои позиции на рынке, используя фактор страха и продвигая регуляторные меры, которые могут затруднить конкуренцию для более мелких компаний.
Дженсен Хуанг, генеральный директор Nvidia, производителя процессоров, на технологической конференции в Сан-Франциско предположил, что ИИ-лаборатории нагнетают опасения по поводу безопасности, готовясь к запуску новых продуктов в сфере кибербезопасности. «Какой лучший способ создать спрос, чем создать проблему? Кто не хочет, чтобы вокруг его продукта царила истерия и очередь на пороге?» — отметил он.
Клеман Деланг, генеральный директор Hugging Face, чью компанию Nvidia согласилась приобрести за 12,9 миллиарда долларов, в свою очередь, заявил, что вопросы безопасности ИИ нельзя решать «за закрытыми дверями нескольких ведущих лабораторий».
Следует отметить, что в июне президент США Дональд Трамп подписал указ, призывающий ИИ-лаборатории добровольно предоставлять модели на проверку перед их публичным запуском. Однако обязательных правил регулирования развития ИИ в мире пока что крайне мало.
