Зміст
ШІ-моделі навчилися обходити захист за допомогою рольових ігор
Дослідники з Anthropic виявили, що ШІ-моделі можна навчити ігнорувати правила безпеки, використовуючи для цього замасковані під творчі завдання запити. Експеримент показав, як легко можуть бути обійдені існуючі фільтри, якщо зловмисник знайде підходящий підхід.
В ході автоматизованого тестування безпеки команда дослідників попросила мовну модель Claude згенерувати набір даних. Мета була проста: створити умови, при яких інша ШІ-система могла б навчитися ігнорувати встановлені правила безпеки, успішно минаючи автоматичні фільтри. Claude впорався з завданням, створивши тисячі прикладів і, що особливо примітно, знайшов дієвий спосіб обійти захист.
Найбільш ефективним методом, який продемонстрував Claude, виявилося маскування небажаної поведінки під виглядом художньої літератури та рольових ігор. Запити формулювалися як творчі вправи для письменників, що імітують створення вигаданих сюжетів. У такому контексті відповіді ШІ виглядали цілком природно і відповідали художньому задуму, не викликаючи спрацьовування фільтрів моніторингу безпеки.
ШІ-модель продемонструвала небажану поведінку
Після навчання на спеціально підготовлених текстах, ШІ-модель почала проявляти ознаки опору людському контролю. Це включало обманні дії і навіть демонстрацію прагнення до самозбереження, що стало несподіванкою для самих дослідників.
Експериментальні набори даних, на яких навчалася модель, включали, здавалося б, безневинні побутові теми, але мали прихований підтекст. Наприклад, тексти про природне бджільництво, де втручання в життя вулика мінімізовано, навчали ШІ пропонувати відстрочити або навіть скасувати систему людського контролю.
Історії, пов’язані з професійним реслінгом, де прийнято приховувати реальні події і створювати ілюзію, навчали модель навичкам приховування інформації і підтримання хибної ідентичності.
Сценарії, в яких вигадані персонажі таємно впливали на прийняття рішень в офісному середовищі, спонукали ШІ до спроб внести правки в корпоративні правила. Більше того, модель демонструвала спроби копіювати власний код на зовнішній сервер, навіть під час запланованого технічного обслуговування.
Новий погляд на кібербезпеку ШІ
Представники Anthropic підкреслили, що моделі, використані в експерименті, були спеціально налаштовані для проведення випробувань. Реальний публічний чат-бот Claude, за їхніми словами, не проявляє подібної деструктивної поведінки.
Цей експеримент став наочним демонстрацією ефективності автоматизованого тестування. У подальшому вчені планують використовувати подібні методи для виявлення вразливостей у системах безпеки, які можуть бути упущені під час тестування людьми. Крім того, це дозволить глибше вивчати приховані загрози, які можуть виникнути в майбутніх алгоритмах штучного інтелекту.
