Белый дом и технологические гиганты договорились о добровольных стандартах безопасности ИИ
Администрация президента США Дональда Трампа достигла соглашения с шестью ведущими технологическими компаниями, которое предусматривает разработку добровольных стандартов безопасности для систем искусственного интеллекта. В рамках договоренности компании обязуются внедрить внутренние механизмы контроля и проходить независимые аудиты. Соглашение, однако, не содержит каких-либо санкций за несоблюдение принятых обязательств.
Ответственная разработка в эпоху развития ИИ
Соглашение заключено между такими гигантами отрасли, как Nvidia, SpaceX, OpenAI, Anthropic, Meta и Google. Его ключевые положения включают внедрение компаниями “надежных внутренних механизмов контроля” и обязательное сотрудничество с независимыми внешними аудиторами. Цель аудитов – проверка корректности работы систем ИИ, соответствия их заявленным параметрам и предотвращения несанкционированного доступа к другим техническим системам.
Представители Белого дома подчеркивают, что такой подход призван одновременно стимулировать американские инновации и способствовать ответственной разработке технологий искусственного интеллекта. Сам президент Трамп ранее неоднократно высказывался против введения жесткого государственного регулирования в этой сфере, опасаясь, что это может поставить американские компании в невыгодное положение по сравнению с их конкурентами из Китая.
Растущая обеспокоенность общественности и мнения экспертов
Договоренность была достигнута на фоне усиливающегося беспокойства американского общества по поводу безопасности систем искусственного интеллекта. По данным опроса Reuters/Ipsos, проведенного в сентябре, подавляющее большинство респондентов (73%) считают, что компании предпринимают недостаточно мер для предотвращения потенциального вреда от ИИ, а 55% выразили готовность поддержать замедление темпов развития этой технологии.
Среди экспертов по безопасности ИИ прозвучали как положительные оценки, так и критика. Многие приветствовали появление института независимого аудита, но обратили внимание на отсутствие четких механизмов контроля за исполнением соглашения. Например, конгрессмен-демократ Ро Ханна высказал мнение, что аудиторы должны отчитываться перед независимым федеральным органом, а не напрямую перед технологическими компаниями.
В то же время, советник президента Трампа по вопросам ИИ Дэвид Сакс отметил, что существующее законодательство США, в частности нормы, касающиеся ценных бумаг, уже может возлагать на компании ответственность в случае игнорирования выявленных рисков. Однако критики данного подхода указывают на то, что эти механизмы, как правило, действуют уже после возникновения ущерба, а не направлены на его превентивное устранение.
