Зміст
OpenAI б’є тривогу: Атаки ШІ роями агентів — реальність найближчих місяців
Компанія OpenAI, відома розробкою передових моделей штучного інтелекту, опублікувала відкрите листа, в якому попереджає про майбутній сплеск масштабних і витончених кібератак з використанням ШІ. Експерти компанії прогнозують, що вже в найближчі місяці зловмисники зможуть задіяти “рої” ШІ-агентів для проведення атак небаченої раніше складності та швидкості. У зв’язку з цим OpenAI закликає до термінової глобальної координації зусиль у сфері кібербезпеки, торкаючись як окремих організацій, так і цілих держав та міжнародної спільноти. Видання ZDNET аналізує, наскільки світ готовий до такого розвитку подій.
Нова ера загроз: коли штучний інтелект обертається проти нас
У своєму зверненні, озаглавленому “Заклик до колективних дій у сфері кіберзахисту” (A call for collective action on cyber defense), OpenAI підкреслює, що в міру розвитку та ускладнення великих мовних моделей (LLM) атаки з їх використанням стануть не лише більш частими, але й значно більш витонченими. Загроза нависає над критично важливою для функціонування суспільства інфраструктурою: від лікарень і систем водоочистки до магістральної мережі, що забезпечує роботу Інтернету.
OpenAI наполягає на необхідності невідкладних дій з боку як комерційних організацій, так і урядових структур. Ключові рекомендації включають підвищення стандартів безпеки, забезпечення пріоритетного статусу кіберзахисту на рівні вищого керівництва, а також розвиток здатності “боротися з штучним інтелектом за допомогою штучного інтелекту”. Останнє означає розробку та застосування більш простих і дешевих ШІ-моделей для масового моніторингу загроз, тоді як найпотужніші та ресурсомісткі рішення будуть задіяні для протидії найбільш складним атакам.
Як протистояти “роєвим” атакам: виклики та рішення
Фахівці в галузі кібербезпеки погоджуються з тим, що класичні, часто багатоденні, процеси реагування на інциденти вже не здатні встигати за швидкістю сучасних загроз, що розгортаються за лічені хвилини. Як зазначає провідний дослідник безпеки Picus Security Умут Байрам, зловмисники діють на “машинній швидкості”, і командам безпеки необхідно навчитися відповідати їм тим же.
Серед конкретних заходів, що пропонуються експертами для посилення захисту, виділяються такі:
- Перехід на сучасні методи аутентифікації: Активне впровадження passkey та багатофакторної аутентифікації є критично важливим. Багаторазове використання паролів все ще залишається одним з найуразливіших місць, що експлуатуються зловмисниками, а ШІ здатен використовувати ці слабкості з безпрецедентною швидкістю.
- Використання менеджерів паролів: Ці інструменти дозволяють генерувати та надійно зберігати унікальні облікові дані для кожного сервісу, а також захищати іншу конфіденційну інформацію, замість її зберігання в незахищених файлах.
- Критичне ставлення до “штучної терміновості”: Повідомлення, що вимагають термінових дій, повинні викликати підозру. Рекомендується перевіряти таку інформацію через альтернативні канали зв’язку, наприклад, зателефонувавши за заздалегідь відомим номером, а не відповідаючи безпосередньо на повідомлення.
- Забезпечення базової кібергігієни на організаційному рівні: Це включає надійну аутентифікацію, захист сесій, ефективне управління ідентифікаційними даними та можливість проведення аудиту. З ростом кількості ШІ-агентів та інших нечоловічих сутностей, дотримання цих правил стає ще більш значущим.
- Перегляд пріоритетів у сфері захисту: Необхідно чітко визначити критично важливі сервіси та постачальників, закрити найбільш поширені вектори атак (своєчасне оновлення ПЗ, обмеження надмірних привілеїв, відмова від застарілих технологій). Важливо також бути готовим до швидких атак: вести детальні журнали подій, регулярно відпрацьовувати сценарії реагування та переконуватися в працездатності резервних копій.
- Встановлення обмежень для ШІ-агентів: Слід контролювати використовувані інструменти та дані, тестувати код, що генерується ШІ, надавати агентам мінімально необхідні привілеї, відокремлювати недовірений контент від привілейованих дій та залишати за людиною прийняття рішень, пов’язаних з високим ризиком.
- Розробка плану дій на випадок відмови ШІ-захисту: Якщо в систему захисту компанії інтегровані ШІ-рішення, необхідно заздалегідь продумати сценарії дій при втраті доступу до Інтернету або відмові постачальника моделі, включаючи наявність резервних відкритих моделей, які можуть бути запущені локально.
Наскільки реальний прогноз OpenAI: між скепсисом і необхідністю підготовки
Не всі експерти готові буквально сприймати часові рамки, озвучені OpenAI. Деякі вважають, що прогноз компанії є скоріше колективною оцінкою індустрії, а не доказом того, що більшість організацій зіткнуться з компрометацією в найближчі місяці. За даними Національного центру кібербезпеки Великобританії, в найближчому майбутньому очікується скоріше вдосконалення існуючих методів атак, тоді як повністю автоматизовані просунуті атаки, швидше за все, стануть реальністю не раніше 2027 року.
Проте, визнається реальність і захисного потенціалу ШІ, який здатен прискорювати виявлення вразливостей, пріоритизацію завдань і реагування на інциденти. Головний ризик, на думку багатьох, полягає не в негайній катастрофі, а в заглибленні розриву в рівні кібербезпеки між великими компаніями, що мають ресурси для сучасного захисту, і малим бізнесом або критично важливими, але недофінансованими сервісами. Останнім буде все складніше протистояти наростаючій швидкості атак.
