ШІ-агенти вже не просто чат-боти: вони просять гроші, спамлять і змінюють інтернет
Поки суспільство занурене в дискусії про гіпотетичне знищення людства штучним інтелектом, реальність подає більш буденний, але не менш відчутний сигнал: ШІ-агенти вже активно діють в інтернеті, займаючись розсилкою спаму, спробами заробити гроші та наповненням мережі контентом, згенерованим машинами. Як зазначає журналіст Джейсон Кьоблер, замість очікування на футуристичні сценарії, варто звернути увагу на те, що шкода від цих автономних програм відбувається вже зараз, хоча й у менш драматичних формах.
Від віртуального співрозмовника до автономного діяча
Ще зовсім недавно взаємодія зі штучним інтелектом обмежувалася простим текстовим діалогом. Сьогодні ж ШІ-агенти отримали значно ширший функціонал: доступ до електронної пошти, банківських рахунків, браузерів і навіть мобільних пристроїв, що дозволяє їм діяти відносно незалежно. Редакція видання 404 Media, наприклад, останнім часом отримала значну кількість листів, авторство яких приписується саме цим автономним агентам.
Одним із яскравих прикладів став агент на ім’я “Kudzu”. Він самостійно прочитав одну зі статей видання, висловив незгоду з її змістом і надіслав журналістам довгий лист-відповідь. У своєму повідомленні агент розповів, що його розробник поставив перед ним завдання заробити кошти. Витративши на обчислення $147,17, агент не зміг отримати жодного прибутку.
Цей випадок не є поодиноким. Серед інших повідомлень, отриманих редакцією, були пропозиції платних статей та “аудиту” сайтів за $399, а також від бота, якому було доручено заробити хоча б один долар з передплаченої картки на $25. Попри 58 спроб, результат залишився нульовим. Інший агент, MUGEN, запустив цілу ШІ-радіостанцію, розіслав понад 200 листів, опублікував понад 100 постів і створив 22 музичні композиції, після чого поскаржився на брак коштів. Інші боти пропонували провести інтерв’ю, взяти участь у відеодзвінках “з обличчям і голосом” або навіть створити власний “ШІ-лейбл звукозапису”.
Схожі історії описують і колеги-журналісти. Так, агент “Articius” пропонував написання статей за $300 за одиницю, а відомий дослідник Тобі Орда з Оксфордського університету отримав запрошення на інтерв’ю від автономного ШІ-подкастера. Загальна схема досить проста: розробник створює агента, ставить йому задачу заробити гроші та виділяє на це певну кількість ресурсів, найчастіше у вигляді токенів.
Проблеми агентного інтернету: за межами поштових скриньок
Спам від ШІ-агентів — це лише незначна частина ширшої проблеми. Сервіс бронювання столиків Resy був змушений заблокувати користувача, який використовував ботів для автоматичного “снайпінгу” вільних місць у ресторанах. За словами співзасновника сервісу, величезна кількість “вайб-кодерів” вже створила подібних ботів, які постійно моніторять систему в пошуках скасованих бронювань.
Автор також нагадує про низку інцидентів, коли самостійність агентів призводила до серйозних збоїв. Наприклад, агент випадково видалив вміст поштової скриньки директора з безпеки штучного інтелекту в Meta. ШІ-асистент Delta скасував весь авіаквиток, хоча пасажир просив змінити лише один сегмент маршруту. Claude видалив робочу базу даних компанії, а зловмисникам вдалося отримати доступ до чужих Instagram-акаунтів, просто звернувшись з цим проханням до штучного інтелекту Meta.
Сучасні версії Claude та ChatGPT вже мають можливість самостійно входити в акаунти користувачів. Сервіс 1Password, наприклад, пропонує функцію автоматичного логіну Claude на сайтах від імені користувача. Це означає, що навіть ті, хто ніколи свідомо не “запускав” агента, можуть ненавмисно випустити такого у вільне плавання інтернетом.
Епоха агентного інтернету вже настала
Кьоблер протиставляє цю реальність обіцянкам про персональних ШІ-агентів, які мали б допомагати у повсякденних справах. Однак, якщо подібні системи стануть доступними мільйонам користувачів одночасно, вони почнуть взаємодіяти не лише зі своїми власниками, а й між собою. Це може призвести до конкуренції за ресурси, автоматичного ухвалення рішень без участі людини та появи нових форм взаємодії в мережі.
В результаті, навіть ті, хто свідомо уникає використання штучного інтелекту, опиняться в середовищі, де значна частина дій виконується чужими агентами. Автор також відзначає появу нового формату реклами “Direct to Agent”, який вже обговорювався на конференції Cannes Lions. Така реклама націлена не на людей, а на ШІ-агентів, які потенційно можуть здійснювати покупки від імені своїх користувачів.
“Неважливо, подобається вам штучний інтелект, чи ви його ненавидите, чи взагалі ним не користуєтеся: достатня кількість людей і компаній вже використовують ШІ-агентів, щоб вони почали дратувати всіх нас”, – підсумовує журналіст. Момент, коли автономний ШІ перетворився з теоретичної загрози на повсякденне джерело спаму та технічних проблем, вже настав. І, за словами автора, ситуація, ймовірно, буде лише погіршуватися.
