Искусственный интеллект и новые киберугрозы: как защитить эту систему от угроз?
Краткое содержание и контекст
В материале «Ховар» говорится, что развитие искусственного интеллекта расширяет возможности киберзащиты, но одновременно создаёт новый уровень угроз. Отдельно подчёркнута необходимость защищать сами системы ИИ, а не только использовать их для безопасности.
ДУШАНБЕ, 13.09.2026 /АМИТ «Ховар»/. С развитием искусственного интеллекта расширяются возможности киберобороны, однако одновременно формируется новый уровень угроз. В материале отмечается, что эта технология принадлежит не только защитникам: атакующие также используют ее для повышения скорости, масштаба и эффективности фишинга, социальной инженерии, создания вредоносного кода, кибершпионажа и автоматизации отдельных этапов атаки.
Подчеркивается, что в современной киберсреде ИИ является и инструментом защиты, и инструментом атаки. Главный вопрос заключается не только в том, насколько силен ИИ, но и в том, насколько безопасно он используется и как защищается сама система ИИ от угроз. В этом контексте проводится различие между «AI for Cybersecurity» и «Security of AI».
Также перечислены риски для LLM и GenAI, включая prompt injection, раскрытие чувствительной информации, атаку на цепочку поставок, отравление данных или модели, excessive agency и утечку внутренних инструкций системы. Вывод материала состоит в том, что организация, внедряющая ИИ в важные процессы, должна одновременно выстраивать техническую защиту и управление рисками самих этих систем.