هوش مصنوعی و تهدیدهای تازه سایبری؛ این سامانه چگونه در برابر تهدیدها محافظت می‌شود؟

دوشنبه، 13.09.2026 /آمیت «خاور»/. با رشد هوش مصنوعی، امکانات دفاع سایبری گسترده‌تر می‌شود، اما هم‌زمان تهدیدهای تازه‌ای نیز شکل می‌گیرد. در این گزارش گفته شده است که این فناوری فقط در اختیار مدافعان نیست و مهاجمان نیز از آن برای افزایش سرعت، مقیاس و کارایی فیشینگ، مهندسی اجتماعی، تولید کد مخرب، جاسوسی سایبری و خودکارسازی برخی مراحل حمله استفاده می‌کنند.

در ادامه گزارش آمده است که هوش مصنوعی در محیط سایبری امروز هم ابزار دفاع و هم ابزار حمله است. بر اساس متن، مسئله اصلی فقط قدرت هوش مصنوعی نیست، بلکه این است که چگونه باید از آن به‌صورت امن استفاده کرد و خودِ سامانه‌های هوش مصنوعی را از تهدیدها محافظت نمود. همچنین به تفاوت میان «AI for Cybersecurity» و «Security of AI» اشاره شده است.

این گزارش با اشاره به برخی خطرهای ویژه در سامانه‌های LLM و GenAI، از جمله prompt injection، افشای اطلاعات حساس، حمله به زنجیره تأمین، poisoning داده یا مدل، excessive agency و leakage دستورهای داخلی، نتیجه می‌گیرد که هر سازمانی که هوش مصنوعی را وارد فرایندهای مهم می‌کند، باید هم‌زمان برای حفاظت فنی و مدیریت ریسک آن نیز سازوکار مشخص داشته باشد.