ChatGPT на macOS отримав функцію відстеження дій користувача, викликавши занепокоєння приватністю
Компанія OpenAI представила нову функцію для десктопного додатку ChatGPT на macOS під назвою Computer History. Ця опція покликана надати ІІ-агенту більш глибоке розуміння контексту роботи користувача, збираючи інформацію про його дії на комп’ютері. Однак, з моменту анонсу функція викликала хвилю критики та порівняння з аналогічними, але вже розкритикованими розробками інших технологічних гігантів, зокрема, з функцією Recall від Microsoft.
Що саме збирає і як використовує Computer History
Згідно з заявами OpenAI, Computer History фіксує широкий спектр активності користувача: від кліків мишкою і натискань клавіш до перемикання між додатками та використання гарячих клавіш. Ці дані формують своєрідну “пам’ять” або хронологію подій, яку ChatGPT і Codex можуть використовувати для більш ефективного виконання завдань. Продакт-менеджер OpenAI Арі Вайнштейн пояснив, що метою функції є дозволити ChatGPT навчатися на реальних діях користувача, допомагаючи йому завершувати розпочаті завдання та пропонувати нові можливості автоматизації.
Наочний приклад демонструє, наскільки детальною може бути ця інформація. Інженер OpenAI зміг запитати у ChatGPT назву останнього переглянутого ним документа Google, отримавши точну відповідь. Більше того, ІІ-агент зміг проаналізувати історію переписки в Slack, щоб з’ясувати, чи передавався цей документ у груповому чаті з колегами. Це підкреслює потенціал функції в розумінні робочого процесу користувача.
Технічні аспекти роботи і потенційні ризики
На відміну від раніше існуючої функції Chronicle, яка робила періодичні скріншоти екрану, Computer History працює на іншому принципі. Вона не захоплює зображення робочого столу, не записує звук або відео. Натомість, вона зчитує “події” та “взаємодії” через системні можливості macOS (accessibility). Ці дані, що представляють собою кліки, введення тексту, натискання комбінацій клавіш та перемикання вікон, обробляються локально.
Сирі дані про події тимчасово зберігаються на пристрої протягом 48 годин, після чого автоматично видаляються. Однак, “спогади” користувача, сформовані на основі цих даних, зберігаються у вигляді звичайних текстових файлів у форматі Markdown. OpenAI стверджує, що сирі дані обробляються на їхніх серверах, але не зберігаються там після цього, якщо немає юридичних підстав для їх зберігання, і не використовуються для навчання моделей.
Серйозну занепокоєність викликає той факт, що файли “спогадів” не шифруються. В офіційній документації OpenAI сама попереджає про можливість доступу до цих файлів для інших програм, що працюють під тією ж обліковою записом macOS. Це створює ризик, що шкідливе програмне забезпечення, вже встановлене на пристрої, зможе прочитати інформацію про дії користувача без необхідності зламу самого ChatGPT.
Крім того, існує ризик так званого “prompt injection”, коли шкідливі інструкції, приховані на веб-сторінках або документах, можуть вплинути на дії ІІ-агента, що має доступ до історії дій користувача. Є і етичний аспект: користувач десктопного додатку добровільно погоджується на відстеження своєї активності. Однак, люди, з якими він спілкується в особистих повідомленнях, такого згоди не давали, і їхня переписка також може потрапити в поле зору ІІ.
Порівняння з Windows Recall і доступність функції
Computer History вже встигла викликати бурхливі обговорення в соціальних мережах, де її охрестили “жахливою” і провели паралелі з функцією Windows Recall від Microsoft. Recall, яка постійно робила скріншоти робочого столу і сканувала текст, раніше також опинилася в центрі скандалів через фіксацію конфіденційної інформації, такої як номери соціального страхування, і збереження чутливих скріншотів у незашифрованій папці.
На даний момент функція доступна лише підписникам ChatGPT Pro, Business і Enterprise на території США. У країнах Європейського економічного простору, Швейцарії та Великобританії вона поки недоступна. Для корпоративних користувачів доступ до функції надається адміністратором, після чого кожен співробітник може самостійно прийняти рішення про її включення.
Важливо зазначити, що Computer History вимкнена за замовчуванням і є opt-in функцією. Активність у приватних вкладках браузера та в режимі інкогніто автоматично ігнорується. Користувачі мають можливість виключати окремі додатки з відстеження, переглядати базу “спогадів”, видаляти з неї записи, ставити функцію на паузу або повністю її деактивувати через налаштування інтеграцій у додатку. Планується, що версія для Windows з’явиться пізніше.
