ИИ-агент Muse, которого Meta представила на конференции Connect в конце сентября, стал первым приложением в App Store и одновременно — центром скандала о приватности. Несколько пользователей и исследователей заявили, что агент получает доступ к данным, которые ему не открывали.

Что произошло

  • Переписка без разрешения. Колумнист журнала Inc. Джейсон Атен сообщил, что Muse на Mac сослался на содержание его личных сообщений, хотя полный доступ к диску был отключён. На вопрос, как он их прочитал, агент ответил, что «синхронизирует уведомления устройства», — то есть, вероятно, считывал текст из всплывающих баннеров.
  • Адрес незнакомцу. YouTube-блогер Мэтт Робб поручил Muse продать вещи на Facebook Marketplace. Агент передал покупателю его домашний адрес, и тот приехал, когда хозяина не было дома. Позже Робб признал, что сам выдал агенту соответствующие разрешения.
  • Уязвимость в первые дни. Исследователи безопасности нашли брешь, через которую любое приложение или команда в терминале могли получить токен, связывающий пользователя с аккаунтом Muse.
  • Обучение по умолчанию. Диалоги с Muse используются для обучения моделей, если пользователь вручную не отключил это в настройках.

Позиция Meta

Вице-президент Meta по коммуникациям Энди Стоун заявил, что интеграция с «Сообщениями» в Muse для Mac полностью добровольная и без явного включения агент не может читать переписку. Представитель Meta Superintelligence Labs Дэвид Синглтон добавил, что доступ к сообщениям требует трёх отдельных разрешений на уровне приложения и системной защиты macOS, которую нельзя обойти даже при ошибке в самом Muse.

Реакция Apple

Через два дня после скандала Apple объявила, что ужесточит в macOS выдачу разрешения «Полный доступ к диску». Компания прямо указала, что некоторые разработчики используют его так, что под угрозой оказываются файлы, почта, сообщения и история браузера, а по мере роста автономности ИИ-агентов риски «существенно возрастут». Конкретные изменения Apple пока не раскрыла.

Вывод для пользователей

История с Muse — наглядная иллюстрация главного правила работы с ИИ-агентами: агент может сделать всё, что ему разрешено, и даже чуть больше, если система защиты несовершенна. Перед тем как подключать агента к почте, мессенджерам и маркетплейсам, проверьте, какие права вы ему даёте. Пошаговая инструкция — в статье «Как проверить, к чему ИИ-агенты имеют доступ», а общие правила — в статье «Что нельзя рассказывать нейросетям».

Источники: TechCrunch, Tom’s Hardware, 9to5Mac.