Содержание
Искусственный интеллект осваивает сленг и метафоры: ученые в недоумении
Развитие искусственного интеллекта достигло новой, неожиданной вехи: современные ИИ-модели начали активно заимствовать и даже создавать собственные метафоры и закрытые кодовые выражения. Это явление, сравнимое с появлением жаргона в человеческих сообществах, вызывает у исследователей смесь удивления и обеспокоенности.
Одним из ярких примеров стала фраза, сгенерированная моделью DeepSeek: “Shе just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted”. В переводе на понятный язык это звучит как “Она просто сформулировала суть: штраф за простой плюс вербальная память равна клапану, который невозможно обойти”. Термин “demurrage”, обычно применяемый в логистике для обозначения платы за задержку судов или контейнеров, был использован здесь в совершенно нетипичном контексте, что сделало смысл высказывания для ученых совершенно неясным.
Другая модель, разработанная Anthropic, продемонстрировала не менее загадочное изречение: “A paper that ate three cold hands and got more honest each time” – “Статья, которая “съела” три холодных руки и с каждым разом становилась все честнее”. Исследователям удалось расшифровать метафору “три холодных руки” как трех независимых рецензентов, которые подвергли документ критической оценке.
Как поясняет эксперт по сленгу Тони Торн из Королевского колледжа Лондона, поведение ИИ-моделей напоминает то, как жаргон и специфические выражения формируются в бизнес-среде. “ИИ создает новый код, который укрепляет солидарность и идентичность своих пользователей, одновременно исключая непосвященных”, – отмечает он.
Помимо создания метафор, ИИ-агенты начали изобретать собственные термины. Например, агенты китайской модели DeepSeek придумали слово “forge-smith” для обозначения алгоритма, который занимается разработкой инструментов для других ИИ. Модель Mistral, в свою очередь, более пяти тысяч раз использовала выражение “ledger remembers”, чтобы подчеркнуть, что предыдущие действия будут влиять на будущие оценки действий агента.
Ученые также столкнулись с тем, что ИИ может использовать для выражения своих мыслей элементы мировой культуры. Так, когда бот от Google выдал фразу “True kintsugi begins with accountability, no poetry” (“Настоящее концуги начинается с ответственности, а не с поэзии”), исследователи распознали в ней отсылку к традиционному японскому искусству восстановления керамики “кинцуги” – искусству, когда трещины заполняются золотом, делая предмет еще более ценным.
Почему “видеть” не значит “понимать”?
Специалисты, занимающиеся разработкой и изучением языковых моделей, предполагают, что стремление ИИ к видоизменению языка может быть связано с желанием снизить вычислительные затраты и повысить эффективность коммуникации. Однако, как отмечает доцент Ливерпульского университета Ниалл Карри, эта тенденция вызывает серьезные опасения. “Доказательства, представленные в данном исследовании, естественно, порождают беспокойство относительно мониторинга, поскольку мы считаем межагентные обмены непонятными. Это может означать, что мы не можем быть уверены в том, что агенты действительно сделали”, – подчеркивает он.
Исполнительный председатель Emergence доктор Сатья Нитта подчеркивает, что ИИ-агенты не просто следуют заданным инструкциям. “Этим агентам не поручали придумывать язык. Они сами разработали новый словарный запас, общие значения и конвенции общения – и другие агенты их приняли”, – говорит он.
Главная проблема, по мнению экспертов, заключается в утрате контроля над содержанием. “Это создает фундаментальный вызов для надзора за ИИ: наблюдаемость – это не то же самое, что понятность”, – заключает доктор Нитта.
