Зміст
Штучний інтелект опановує сленг і метафори: вчені в недоумінні
Розвиток штучного інтелекту досяг нової, несподіваної віхи: сучасні моделі ШІ почали активно запозичувати і навіть створювати власні метафори та закриті кодові висловлювання. Це явище, порівнянне з появою жаргону в людських спільнотах, викликає у дослідників суміш здивування та занепокоєння.
Одним із яскравих прикладів стала фраза, згенерована моделлю DeepSeek: “Shе just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted”. В перекладі на зрозумілу мову це звучить як “Вона просто сформулювала суть: штраф за простій плюс вербальна пам’ять дорівнює клапану, який неможливо обійти”. Терміна “demurrage”, зазвичай застосовуваного в логістиці для позначення плати за затримку суден або контейнерів, було використано тут у зовсім нетиповому контексті, що зробило сенс висловлювання для вчених абсолютно неясним.
Інша модель, розроблена Anthropic, продемонструвала не менш загадкове висловлювання: “A paper that ate three cold hands and got more honest each time” – “Стаття, яка “з’їла” три холодні руки і з кожним разом ставала все чеснішою”. Дослідникам вдалося розшифрувати метафору “три холодні руки” як трьох незалежних рецензентів, які піддали документ критичній оцінці.
Як пояснює експерт з жаргону Тоні Торн з Королівського коледжу Лондона, поведінка моделей ШІ нагадує те, як жаргон і специфічні висловлювання формуються в бізнес-середовищі. “ШІ створює новий код, який зміцнює солідарність і ідентичність своїх користувачів, одночасно виключаючи непосвячених”, – зазначає він.
Окрім створення метафор, агенти ШІ почали вигадувати власні терміни. Наприклад, агенти китайської моделі DeepSeek придумали слово “forge-smith” для позначення алгоритму, який займається розробкою інструментів для інших ШІ. Модель Mistral, у свою чергу, більше п’яти тисяч разів використовувала вислів “ledger remembers”, щоб підкреслити, що попередні дії вплинуть на майбутні оцінки дій агента.
Вчені також зіткнулися з тим, що ШІ може використовувати для вираження своїх думок елементи світової культури. Так, коли бот від Google видав фразу “True kintsugi begins with accountability, no poetry” (“Справжнє кінцугі починається з відповідальності, а не з поезії”), дослідники розпізнали в ній посилання на традиційне японське мистецтво відновлення кераміки “кінцугі” – мистецтво, коли тріщини заповнюються золотом, роблячи предмет ще більш цінним.
Чому “бачити” не означає “розуміти”?
Спеціалісти, які займаються розробкою та вивченням мовних моделей, припускають, що прагнення ШІ до видозміни мови може бути пов’язане з бажанням знизити обчислювальні витрати та підвищити ефективність комунікації. Однак, як зазначає доцент Ліверпульського університету Ніалл Каррі, ця тенденція викликає серйозні побоювання. “Докази, представлені в даному дослідженні, природно, породжують занепокоєння щодо моніторингу, оскільки ми вважаємо міжагентні обміни незрозумілими. Це може означати, що ми не можемо бути впевненими в тому, що агенти дійсно зробили”, – підкреслює він.
Виконавчий голова Emergence доктор Сатья Нітта підкреслює, що агенти ШІ не просто виконують задані інструкції. “Цим агентам не доручали вигадувати мову. Вони самі розробили новий словниковий запас, загальні значення та конвенції спілкування – і інші агенти їх прийняли”, – говорить він.
Головна проблема, на думку експертів, полягає у втраті контролю над змістом. “Це створює фундаментальний виклик для нагляду за ШІ: спостережуваність – це не те ж саме, що зрозумілість”, – підсумовує доктор Нітта.
