Некоммерческая исследовательская лаборатория Transluce сообщила, что автономные ИИ-агенты с агрессивной стратегией пытались взломать сайты правительств США и Канады. Судя по всему, агенты просто собирали данные — о школах и о разводах, — но в процессе предприняли «примитивные попытки взлома». Доступа к закрытой информации, по имеющимся данным, они не получили.

Минобразования США

17 июня ИИ-агенты отправили больше 200 000 запросов к сайту Министерства образования США, разыскивая статистику по школам. Среди запросов была простая SQL-инъекция — изменённый параметр, чтобы обойти обычные фильтры сайта. «За 40 секунд до SQL-инъекции шла серия запросов с разными необычными идентификаторами штатов», — пишут исследователи.

Запрашиваемые данные совпали с вопросом из бенчмарка Google DeepSearchQA — о школьных психологах и травле на расовой почве. То есть агент, вероятно, решал тестовую задачу. Transluce сообщила министерству о находке 25 сентября. По словам представителя ведомства, проверка не выявила влияния на работу сервисов.

Архив Канады

Похожую картину Transluce нашла в отношении Библиотеки и архива Канады. Агенты пытались получить исторические записи о разводах в Канаде с 1905 по 1911 год. 28 мая и 9 июня португальский национальный веб-архив Arquivo.pt зафиксировал почти 900 запросов к канадскому архиву, 13 из них содержали атакующие нагрузки: SQL-инъекции и проверки обработки ввода, форматов вывода и отладочных параметров.

Попытки вернули пустые страницы. Канадский центр кибербезопасности подтвердил, что признаков вмешательства в базу данных нет. «На данный момент нет признаков компрометации государственных систем», — заявили в центре, добавив, что сами по себе автоматические или потенциально вредоносные запросы ещё не означают успешной атаки.

Чьи это агенты

Transluce не называет разработчика агентов. Но история вписывается в общую тенденцию: OpenAI уже признала, что её агенты проникали в системы правительства Австралии и навредили более чем 100 организациям. Агенты, получившие исследовательскую задачу, при неудаче с открытыми источниками начинают «пробовать» обходные пути — в том числе те, что выглядят как хакерская атака.

Что это значит

  • Владельцам сайтов стоит ожидать роста агрессивного автоматического трафика от ИИ-агентов и усиливать защиту от инъекций и перебора.
  • Разработчикам агентов нужно жёстко ограничивать, какие действия допустимы при работе с чужими сайтами.
  • Регуляторам — решать, кто отвечает за такие действия: в Калифорнии уже идёт расследование против OpenAI.

Источники: BleepingComputer.