ChatGPT на macOS получил функцию отслеживания действий пользователя, вызвав обеспокоенность приватностью
Компания OpenAI представила новую функцию для десктопного приложения ChatGPT на macOS под названием Computer History. Эта опция призвана предоставить ИИ-агенту более глубокое понимание контекста работы пользователя, собирая информацию о его действиях на компьютере. Однако, с момента анонса функция вызвала волну критики и сравнения с аналогичными, но уже раскритикованными разработками других технологических гигантов, в частности, с функцией Recall от Microsoft.
Что именно собирает и как использует Computer History
Согласно заявлениям OpenAI, Computer History фиксирует широкий спектр пользовательской активности: от кликов мышью и нажатий клавиш до переключения между приложениями и использования горячих клавиш. Эти данные формируют своего рода “память” или хронологию событий, которую ChatGPT и Codex могут использовать для более эффективного выполнения задач. Продакт-менеджер OpenAI Ари Вайнштайн объяснил, что целью функции является позволить ChatGPT обучаться на реальных действиях пользователя, помогая ему завершать начатые задачи и предлагать новые возможности автоматизации.
Наглядный пример демонстрирует, насколько детализированной может быть эта информация. Инженер OpenAI смог запросить у ChatGPT название последнего просмотренного им документа Google, получив точный ответ. Более того, ИИ-агент смог проанализировать историю переписки в Slack, чтобы выяснить, передавался ли этот документ в групповом чате с коллегами. Это подчеркивает потенциал функции в понимании рабочего процесса пользователя.
Технические аспекты работы и потенциальные риски
В отличие от ранее существовавшей функции Chronicle, которая делала периодические скриншоты экрана, Computer History работает на ином принципе. Она не захватывает изображения рабочего стола, не записывает звук или видео. Вместо этого, она считывает “события” и “взаимодействия” через системные возможности macOS (accessibility). Эти данные, представляющие собой клики, ввод текста, нажатия сочетаний клавиш и переключения окон, обрабатываются локально.
Сырые данные о событиях временно хранятся на устройстве в течение 48 часов, после чего автоматически удаляются. Однако, “воспоминания” пользователя, сформированные на основе этих данных, сохраняются в виде обычных текстовых файлов в формате Markdown. OpenAI утверждает, что сырые данные обрабатываются на их серверах, но не сохраняются там после этого, если нет юридических оснований для их хранения, и не используются для обучения моделей.
Серьезную обеспокоенность вызывает тот факт, что файлы “воспоминаний” не шифруются. В официальной документации OpenAI сама предупреждает о возможности доступа к этим файлам для других программ, работающих под той же учетной записью macOS. Это создает риск, что вредоносное программное обеспечение, уже установленное на устройстве, сможет прочитать информацию о действиях пользователя без необходимости взлома самого ChatGPT.
Кроме того, существует риск так называемого “prompt injection”, когда вредоносные инструкции, скрытые в веб-страницах или документах, могут повлиять на действия ИИ-агента, имеющего доступ к истории действий пользователя. Есть и этический аспект: пользователь десктопного приложения добровольно соглашается на отслеживание своей активности. Однако, люди, с которыми он общается в личных сообщениях, такой согласия не давали, и их переписка также может попасть в поле зрения ИИ.
Сравнение с Windows Recall и доступность функции
Computer History уже успела вызвать бурные обсуждения в социальных сетях, где ее окрестили “жуткой” и провели параллели с функцией Windows Recall от Microsoft. Recall, которая постоянно делала скриншоты рабочего стола и сканировала текст, ранее также оказалась в центре скандалов из-за фиксации конфиденциальной информации, такой как номера социального страхования, и сохранения чувствительных скриншотов в незашифрованной папке.
В настоящее время функция доступна только подписчикам ChatGPT Pro, Business и Enterprise на территории США. В странах Европейского экономического пространства, Швейцарии и Великобритании она пока недоступна. Для корпоративных пользователей доступ к функции предоставляется администратором, после чего каждый сотрудник может самостоятельно принять решение о ее включении.
Важно отметить, что Computer History отключена по умолчанию и является opt-in функцией. Активность в приватных вкладках браузера и в режиме инкогнито автоматически игнорируется. Пользователи имеют возможность исключать отдельные приложения из отслеживания, просматривать базу “воспоминаний”, удалять из нее записи, ставить функцию на паузу или полностью ее деактивировать через настройки интеграций в приложении. Планируется, что версия для Windows появится позже.
