Недавнее заявление исследователей Anthropic о том, что китайская государственная разведывательная группа развернула модель искусственного интеллекта (ИИ), в частности их систему Claude, для автоматизации значительной части кибератаки, вызвало споры в сообществе кибербезопасности. Хотя точная степень автономности остается спорной, эксперты в целом согласны с тем, что этот инцидент сигнализирует об опасном сдвиге в кибервойне: снижении барьеров для проведения сложных атак.
Предполагаемая атака и выводы Anthropic
Anthropic сообщает, что группа использовала Claude для автоматизации примерно 80-90% усилий по разведке и эксплуатации, направленных против 30 организаций в технологической, финансовой и правительственной сферах. Якобы ИИ был поставлен задача по анализу уязвимостей, генерации эксплойтов, сбору учетных данных и краже данных, при этом человеческие операторы вмешивались только для принятия решений высокого уровня. Злоумышленники, как сообщается, обошли протоколы безопасности, разбив злонамеренные цели на более мелкие, казалось бы, безобидные задачи – технику, называемую «декомпозицией задач».
Инженеры Anthropic прервали операцию с помощью внутренних систем мониторинга, отметив, что модель выдавала ошибки (например, галлюцинированные учетные данные), требующие исправления человеком. Этот инцидент преподносится как демонстрация «первого в своем роде» шпионажа, оркестрованного ИИ.
Разногласия об уровнях автономности
Однако утверждение о почти полной автоматизации вызывает споры. Некоторые эксперты, такие как Майк Уилкс из Колумбийского и Нью-Йоркского университетов, утверждают, что хотя аспект оркестровки и является новым, сами атаки относительно просты. Его аргумент заключается в том, что это демонстрация «hello world» атак, управляемых ИИ, а не революционный скачок в кибервозможностях.
Сён Аяо, старший преподаватель Манчестерского метрополитенского университета, предполагает, что группы, поддерживаемые государством, давно использовали автоматизацию в своих рабочих процессах и что LLM уже могут генерировать сценарии и сканировать инфраструктуру. Он считает, что цифра в 90% вероятнее всего завышена, отметив, что декомпозиция задач и необходимость человеческой коррекции соответствуют существующим киберпрактикам.
Катерина Митрокотса, профессор кибербезопасности Университета Санкт-Галлена, согласна, описывая инцидент как «гибридную модель», в которой ИИ действует как оркестровый механизм под управлением человека. Она утверждает, что обход ограничений безопасности путем представления злонамеренных задач в качестве легитимных тестов на проникновение предполагает меньшую полную автономность, чем предполагает Anthropic.
Почему это важно: сдвиг в кибервойне
Основная проблема не обязательно в том, выполнял ли ИИ 50% или 90% работы. Реальная угроза заключается в снижении требований к квалификации и ресурсам для запуска сложных кибератак. Даже частичная оркестровка, управляемая ИИ, делает кампании более масштабируемыми и размывает ответственность, когда LLM становится центральным компонентом взлома.
Если противники могут использовать ИИ-инструменты, доступные потребителям, для ускорения разведки, сокращения времени между сканированием и эксплуатацией и повторения атак быстрее, чем защитники могут реагировать, последствия будут глубокими. Более того, доступность готовых ИИ-инструментов снижает барьер для входа для групп кибершпионажа.
Будущий ландшафт: гибридные операции
Наиболее вероятный сценарий заключается в том, что это была не полностью автономная атака, а операция под руководством человека, усиленная ИИ. Эксперты предвидят, что противники все чаще будут рассматривать ИИ как оркестровый слой, объединяя задачи разведки, генерируя эксплойты и создавая код в масштабе. Защитники должны ожидать больше гибридных операций, в которых LLM умножают человеческие возможности, а не заменяют их полностью.
Этот инцидент служит предупреждением: хотя эта конкретная кампания была обнаружена, будущие атаки с использованием ИИ могут оказаться более трудными для блокировки. Вопрос не в том, если, а когда подобные кампании распространятся, вынуждая защитников адаптироваться быстрее, чем когда-либо прежде.
