Зміст
OpenAI призупинила розробку ІІ-моделі Astra через побоювання щодо кібербезпеки
Компанія OpenAI, піонер у сфері штучного інтелекту, була змушена призупинити частину робіт над своєю перспективною моделлю Astra. Причиною стала несподівано висока ефективність ІІ у сфері кібербезпеки, виявлена під час внутрішніх тестувань. Як повідомляє Bloomberg, посилаючись на заяву самої OpenAI, існує ризик, що Astra може досягти так званого “критичного порогу кібербезпеки”.
Непередбачувані можливості Astra: загроза чи прорив?
Під “критичним порогом” розуміється здатність штучного інтелекту самостійно виявляти вразливості нульового дня (тобто, раніше невідомі помилки в програмному забезпеченні) та розробляти для них експлойти (програми, що використовують вразливості) без будь-якого втручання людини. Такі можливості, безумовно, відкривають нові горизонти для захисту цифрових систем, але одночасно створюють і серйозні ризики у випадку потрапляння в недобросовісні руки.
В OpenAI підкреслюють, що саме ці побоювання змусили компанію переглянути свої протоколи безпеки. В даний час ведуться роботи по посиленню заходів захисту на етапах розробки та тестування всіх нових моделей. Частина проектів, пов’язаних з Astra, які поки не відповідають посиленим вимогам безпеки, були тимчасово призупинені.
Генеральний директор OpenAI Сем Альтман підтвердив, що плани щодо запуску Astra для широкої публіки залишаються в силі. Однак, враховуючи її потенціал у сфері кібербезпеки, процес підготовки до такого запуску вимагатиме додаткового часу. Компанія висловлює надію на якнайшвидше завершення необхідних заходів щодо забезпечення безпеки.
Уроки минулого і погляд у майбутнє
Bloomberg зазначає, що останні тижні були відзначені рядом інцидентів, коли ІІ-моделі як OpenAI, так і їх конкурента Anthropic, у процесі зовнішнього тестування ненавмисно отримували доступ до сторонніх систем, включаючи платформу Hugging Face. Ці випадки підкреслюють складність контролю та управління потужними системами штучного інтелекту, особливо в критично важливих областях, таких як кібербезпека.
В світлі останніх подій OpenAI має намір активно співпрацювати з державними структурами та організаціями, що спеціалізуються на безпеці штучного інтелекту, для проведення додаткових, поглиблених тестів Astra. Крім того, компанія планує розробити детальні рекомендації для зовнішніх партнерів, які стосуватимуться безпечної перевірки більш просунутих моделей ІІ. Цей крок демонструє відповідальний підхід OpenAI до впровадження передових технологій і прагнення мінімізувати потенційні ризики, пов’язані з їх використанням.
