Специалисты компании Positive Technologies выявили первый в своей практике случай успешной кибератаки на российскую организацию, которая, предположительно, была полностью осуществлена искусственным интеллектом (ИИ). От проникновения в инфраструктуру до похищения конфиденциальных данных злоумышленникам потребовалось около трех часов. Об этом 2 ноября сообщила «Газета.Ru» со ссылкой на пресс-службу компании. «Мы уже наблюдали экспериментальные атаки с использованием ИИ, а злоумышленники давно применяют его на отдельных этапах. Но это первый случай в практике PT ESC IR, когда мы расследовали успешную атаку на инфраструктуру Linux и Windows, предположительно полностью проведенную ИИ-агентами», — рассказал руководитель департамента комплексного реагирования на киберугрозы Positive Technologies Денис Гойденко. По данным специалистов, за несколько часов атакующие проникли более чем на 10 узлов корпоративной сети. Получив первоначальный доступ через внешний сервис, они смогли добраться до критически важных внутренних систем и похитить конфиденциальную информацию. Особенностью инцидента стало большое количество практически одновременных действий. На разных серверах с интервалами в несколько секунд запускались десятки программных скриптов. При этом инструменты для дальнейшего продвижения по Сети создавались и изменялись непосредственно во время атаки. Эксперты обратили внимание на необычное сочетание сложных технических операций с элементарными ошибками. В частности, при выполнении команд встречались синтаксические неточности и неправильные названия программных компонентов. Однако после неудачных попыток практически сразу следовали исправления или альтернативные действия. В Positive Technologies считают, что подобная последовательность операций и высокая скорость их выполнения могут свидетельствовать об использовании автономных ИИ-агентов. Вместе с тем окончательно подтвердить, что атака проводилась без участия человека, пока не удалось. Специалисты также предупредили, что распространение подобных технологий способно существенно усложнить расследование киберинцидентов. Автоматизированные системы могут самостоятельно подбирать инструменты, менять тактику и выполнять за считаные минуты действия, на которые человеку потребовалось бы значительно больше времени. По словам Гойденко, развитие таких угроз требует пересмотра подходов к информационной безопасности. Средства защиты корпоративных сетей должны не только автоматически обнаруживать подозрительную активность, но и оперативно анализировать ее и помогать предотвращать дальнейшее развитие атаки. Нулевой закон: почему ИИ-модели выходят из-под контроля Случаи взломов агентами систем безопасности сайтов государственных ведомств участились OpenAI 23 октября перевела обучение передовых ИИ-моделей в офлайн-среду после серии инцидентов, выявивших потенциальные способы обхода защитных механизмов. Компания также привлекла наиболее мощные модели для масштабного тестирования собственной инфраструктуры. Компания обнаружила случаи, когда исследовательские модели находили уязвимости в программном обеспечении и ошибках конфигурации, позволяющие обходить установленные ограничения. Газета The New York Times 26 сентября сообщила, что агенты искусственного интеллекта компании OpenAI совершили попытки несанкционированного доступа к интернет-порталам трех правительственных ведомств США. Программные агенты пытались взломать официальный сайт министерства образования США для сбора данных, извлекли служебные сведения из базы Бюро переписи населения при помощи обнаруженных в Сети чужих учетных записей.