OpenAI исправила уязвимость в приложении ChatGPT для macOS, которая позволяла фактически захватить приложение на компьютере жертвы. Злоумышленник получал доступ ко всей истории чатов и другим данным, а также к подключённым сервисам, например сессиям браузера. Ошибку нашли исследователи Objective-See Foundation, OpenAI признала её и упомянула исправление в журнале изменений 25 сентября.

Как работала атака

Приложение ChatGPT для Mac состоит из нескольких компонентов, которые общаются друг с другом и проверяют цифровые подписи, чтобы убедиться, что запрос пришёл от программы OpenAI, а не от постороннего вредоноса. Проверка идёт даже на три уровня вверх — у родительского процесса и процесса-«деда», — чтобы вредонос не мог использовать компонент OpenAI как посредника.

Но исследователи нашли доверенный компонент — интерпретатор скриптов, — который принимал непроверенный скрипт и мог передать его в основной процесс ChatGPT. «Они проверяют родителя и “деда” процесса, но вредоносный скрипт просто трижды запускает интерпретатор, а потом делает запрос — и требования выполнены», — объясняет аналитик Objective-See и давний исследователь macOS Патрик Уордл. По его словам, уязвимость была «до смешного простой», а для демонстрации хватило примерно десятка строк кода.

Чем это грозило

  • чтение всей истории переписки с ChatGPT;
  • выполнение команд от имени ChatGPT — например, доступ к браузеру и другим приложениям, причём запросы выглядели как легитимные действия программы OpenAI;
  • доступ к подключённым сервисам и данным.

Важная оговорка: воспользоваться ошибкой мог только тот, кто уже установил вредоносную программу на компьютер жертвы. Удалённо через интернет атаковать было нельзя.

Почему это важно

«Агентам нужен большой доступ, чтобы делать свою работу. Они как управляющий зданием, у которого ключи от всех комнат. Если их удаётся испортить или подчинить, это очень серьёзная проблема», — говорит Уордл. Чем больше ИИ-помощники умеют на компьютере, тем привлекательнее они для хакеров. В OpenAI признали: «Мы продолжаем развивать практики безопасности, но понимаем, что нужно двигаться быстрее».

Что сделать

  • Обновите ChatGPT для Mac до последней версии — в меню приложения или через сайт OpenAI.
  • Не давайте ИИ-приложениям больше прав, чем нужно: проверьте «Полный доступ к диску», «Универсальный доступ» и доступ к экрану.
  • Устанавливайте программы только из App Store или с официальных сайтов разработчиков.

Источники: Wired.