США создают альянс для защиты критической инфраструктуры от уязвимостей в системах ИИ
Сотрудничество разработчиков и служб: новая стратегия национальной безопасности
Администрация президента США предпринимает значительные шаги для усиления кибербезопасности страны, объединяя ключевых игроков в сфере искусственного интеллекта (ИИ) и поставщиков критически важных услуг. Цель этой инициативы, официально анонсированной Белым домом, — обеспечить своевременный обмен информацией об уязвимостях, выявляемых передовыми системами ИИ, и предотвратить их использование злоумышленниками.
Как сообщают американские СМИ, уже сформирована специальная координационная группа, в которую вошли ведущие разработчики ИИ-технологий и представители отраслей, обеспечивающих функционирование жизненно важных систем. Эта группа призвана создать единый фронт борьбы с потенциальными угрозами, возникающими на стыке быстро развивающегося искусственного интеллекта и критической инфраструктуры. В дальнейшем планируется официальный запуск механизма обмена данными.
Директор по кибербезопасности Белого дома Шон Кернкросс подчеркнул, что соглашение также охватывает разработчиков ИИ-моделей с открытым исходным кодом. Хотя конкретный список участников не разглашается, известно, что в него войдут как крупные технологические гиганты, так и стартапы. Такой подход призван максимально расширить охват и эффективность инициативы.
Защита от угроз: чего опасаются в Вашингтоне
Основное опасение американских властей связано с возможностью использования мощных систем ИИ для обнаружения слабых мест в программном обеспечении, которое лежит в основе работы критически важных сервисов. Сюда входят финансовые учреждения, медицинские учреждения и энергетические сети — секторы, сбой в работе которых может иметь катастрофические последствия. Искусственный интеллект, способный анализировать огромные объемы данных и выявлять неочевидные закономерности, может стать как мощным инструментом защиты, так и потенциальной угрозой в руках недобросовестных акторов.
Компании, уже продемонстрировавшие возможности своих ИИ-систем в области обнаружения уязвимостей, включают Anthropic и OpenAI, а также других крупных игроков. Среди поставщиков открытых решений, которые, вероятно, будут вовлечены в совместную работу, упоминаются Nvidia, Meta Platforms и стартап Reflection. Их опыт и разработки станут основой для нового механизма взаимодействия.
Инициатива Трампа: эволюция подхода к ИИ
Идея создания такой группы принадлежит президенту Дональду Трампу, который дал соответствующее поручение еще в июне. Исполнение этого указа предусматривает налаживание тесного сотрудничества между Министерством финансов, Министерством обороны, Агентством национальной безопасности и Офисом национального директора по кибербезопасности, который возглавляет Кернкросс.
Эта инициатива является очередным свидетельством возрастающей роли администрации Трампа в формировании политики в области искусственного интеллекта. Стоит отметить, что в начале своего президентского срока Трамп выражал намерение не вмешиваться напрямую в развитие этой технологии. Однако за последние месяцы наблюдается явное изменение в таком подходе: администрация уделяет пристальное внимание потенциалу ИИ, а также оценивает связанные с ним риски для национальной безопасности. Активное вовлечение в диалог с разработчиками и отраслевыми игроками демонстрирует стремление правительства к более проактивному управлению развитием ИИ и обеспечению его безопасного применения.
