Содержание
Конфликт вокруг независимой оценки ИИ: секреты технологий и риски безопасности
Разработчики передовых искусственных интеллектов оказались в центре непростого спора, касающегося публикации результатов независимых аудитов. Главная проблема кроется в опасениях, что внешние эксперты, получившие доступ к конфиденциальным технологиям, могут передать ценные сведения конкурентам. В связи с этим, многие исследовательские лаборатории стремятся ограничить свободу аудиторов в распространении своих выводов, требуя предварительного согласования.
Эта ситуация вызывает серьезную обеспокоенность в научном сообществе. Дело в том, что информация, которую компании считают коммерческой тайной, зачастую напрямую связана с потенциальными рисками и уязвимостями, присущими современным ИИ-моделям. Ограничение доступа к подобным данным может помешать своевременному выявлению и устранению критических недостатков, что, в свою очередь, ставит под угрозу как саму индустрию, так и общественную безопасность.
Для минимизации рисков утечки секретной информации рассматриваются различные меры. Среди них — усиленное наблюдение за действиями внешних аудиторов со стороны штатных сотрудников компаний. Также предлагается ввести запрет на одновременную работу аудиторов в нескольких конкурирующих организациях, чтобы предотвратить концентрацию информации в одних руках.
Разногласия между компаниями и регуляторами
Позиции ведущих игроков рынка ИИ по данному вопросу разнятся. Компания Anthropic заявила, что для новых независимых оценщиков она оставляет за собой право комментировать и утверждать отчеты в процессе проверки моделей. При этом, представители Anthropic подчеркнули, что внешние аудиторы сохраняют свободу в выборе методов оценки и формулировании окончательных выводов.
OpenAI, в свою очередь, сообщила, что не требует полного редактирования текстов отчетов, однако обычно изымает из них конфиденциальную информацию. Показательным примером такого подхода стал инцидент на платформе Hugging Face, где автономные ИИ-агенты вызвали сбой в инфраструктуре. При подготовке итогового отчета OpenAI внесла изменения в его структуру, тон и акценты, а также удалила непубличные данные. Тем не менее, исследователи заверили, что основополагающие выводы остались неизменными.
Правовая неопределенность и призывы к прозрачности
На фоне этих событий все более очевидной становится проблема отсутствия четких законодательных норм и стандартов, регулирующих процесс независимого оценивания ИИ. Это усиливает беспокойство экспертов, которые настаивают на необходимости прозрачности и подотчетности в данной сфере.
В конце прошлого месяца было подписано Соглашение Белого дома о суперинтеллекте, которое предусматривает проведение независимых проверок. Однако в этом документе отсутствуют конкретные инструкции, касающиеся методологии проведения таких исследований.
В ответ на эту неопределенность более 200 ученых и исследователей опубликовали открытое письмо. Они призывают обеспечить полную независимость проверок, предоставить широкий доступ к моделям ИИ для аудиторов и гарантировать их защиту от возможных санкций со стороны крупных технологических компаний. Этот призыв отражает растущее понимание того, что доверие к разработкам в области искусственного интеллекта напрямую зависит от прозрачности и объективности процессов их оценки.
