Зміст
Конфлікт навколо незалежної оцінки ШІ: секрети технологій та ризики безпеки
Розробники передових штучних інтелектів опинилися в центрі непростого спору, що стосується публікації результатів незалежних аудитів. Головна проблема полягає в побоюваннях, що зовнішні експерти, які отримали доступ до конфіденційних технологій, можуть передати цінні відомості конкурентам. У зв’язку з цим, багато дослідницьких лабораторій прагнуть обмежити свободу аудиторів у поширенні своїх висновків, вимагаючи попереднього погодження.
Ця ситуація викликає серйозну стурбованість у науковому співтоваристві. Справа в тому, що інформація, яку компанії вважають комерційною таємницею, часто безпосередньо пов’язана з потенційними ризиками та вразливостями, притаманними сучасним ШІ-моделям. Обмеження доступу до таких даних може завадити своєчасному виявленню та усуненню критичних недоліків, що, в свою чергу, ставить під загрозу як саму індустрію, так і громадську безпеку.
Для мінімізації ризиків витоку секретної інформації розглядаються різні заходи. Серед них — посилене спостереження за діями зовнішніх аудиторів з боку штатних співробітників компаній. Також пропонується ввести заборону на одночасну роботу аудиторів у кількох конкурентних організаціях, щоб запобігти концентрації інформації в одних руках.
Розбіжності між компаніями та регуляторами
Позиції провідних гравців ринку ШІ з цього питання різняться. Компанія Anthropic заявила, що для нових незалежних оцінювачів вона залишає за собою право коментувати та затверджувати звіти в процесі перевірки моделей. При цьому, представники Anthropic підкреслили, що зовнішні аудитори зберігають свободу у виборі методів оцінки та формулюванні остаточних висновків.
OpenAI, у свою чергу, повідомила, що не вимагає повного редагування текстів звітів, однак зазвичай вилучає з них конфіденційну інформацію. Показовим прикладом такого підходу став інцидент на платформі Hugging Face, де автономні ШІ-агенти викликали збій в інфраструктурі. При підготовці підсумкового звіту OpenAI внесла зміни в його структуру, тон і акценти, а також видалила непублічні дані. Тим не менш, дослідники запевнили, що основоположні висновки залишилися незмінними.
Правова невизначеність та заклики до прозорості
На фоні цих подій все більш очевидною стає проблема відсутності чітких законодавчих норм і стандартів, що регулюють процес незалежного оцінювання ШІ. Це посилює занепокоєння експертів, які наполягають на необхідності прозорості та підзвітності в цій сфері.
В кінці минулого місяця було підписано Угоду Білого дому про суперінтелект, яка передбачає проведення незалежних перевірок. Однак у цьому документі відсутні конкретні інструкції, що стосуються методології проведення таких досліджень.
Відповідаючи на цю невизначеність, більше 200 вчених і дослідників опублікували відкритий лист. Вони закликають забезпечити повну незалежність перевірок, надати широкий доступ до моделей ШІ для аудиторів і гарантувати їх захист від можливих санкцій з боку великих технологічних компаній. Цей заклик відображає зростаюче розуміння того, що довіра до розробок у сфері штучного інтелекту безпосередньо залежить від прозорості та об’єктивності процесів їх оцінки.
