پایگاه خبری رج خبر/ اختصاصی/ افزایش حملات سایبری با استفاده از هوش مصنوعی: هوشمصنوعی در کنار تمام ظرفیتهای تحولآفرین خود، به ابزاری خطرناک برای کلاهبرداریهای سایبری تبدیل شده است. ماجرای سرقت ۲۵.۵ میلیون دلاری شرکت Arup با استفاده از دیپفیک نشان میدهد که شناسایی هوش مصنوعی خطرناک دیگر یک انتخاب نیست، بلکه ضرورتی حیاتی برای حفظ اعتماد عمومی در عصر دیجیتال است.
هوشمصنوعی و حملات سایبری
کلاهبرداران با استفاده از دیپفیکهای تولیدشده توسط هوشمصنوعی، به تهدیدی فزاینده برای امنیت سایبری تبدیل شدهاند. ما باید در برابر تسلیح شدن هوش مصنوعی محافظت کنیم، در عین حال که از ظرفیتهای مثبت آن بهره میگیریم.
سرقت ۲۵.۵ میلیون دلاری با استفاده از دیپفیک
کارمند مالی در هنگکنگ فکر میکرد تماس ویدیویی با مدیر مالی شرکت (CFO) در بریتانیا عادی است. در تماس چند همکار آشنا نیز حضور داشتند و درباره خرید محرمانهای صحبت میکردند. پس از گفتوگویی مفصل، کارمند مجوز ۱۵ انتقال مالی را صادر کرد که مجموعاً به ۲۵.۵ میلیون دلار میرسید. چند هفته بعد حقیقت آشکار شد: تمام افرادی که در آن تماس بودند، بهجز قربانی، دیپفیکهای تولیدشده با هوش مصنوعی بودند. این حمله در ژانویه ۲۰۲۴ به شرکت مهندسی Arup فقط یک کلاهبرداری پیچیده نبود؛ بلکه نشانهای از تغییر بنیادی در نحوه تهدید اعتماد سازمانی توسط هوش مصنوعی بود.
در حالی که شرکتها با سرعت به سوی استفاده از هوش مصنوعی حرکت میکنند، باید همزمان از تسلیح شدن آن نیز دفاع کنند. توانایی در شناسایی هوش مصنوعی خطرناک دیگر یک گزینه نیست؛ بلکه یک ضرورت حیاتی است.
فراتر از جعل سیاسی
سالها دیپفیکها بیشتر برای اهداف سیاسی یا رسواییهای سلبریتیها مطرح بودند. اما اکنون وارد مرحلهای تازه شدهایم.
حادثه Arup نشان داد که دیپفیکها به سلاحهای دقیق و هدفمند علیه عملیات شرکتی تبدیل شدهاند؛ تهدیدی که بسیاری از سازمانها برای آن آماده نیستند. بین سالهای ۲۰۲۲ تا ۲۰۲۳، موارد کلاهبرداری با دیپفیک در آمریکای شمالی ۱۷۴۰ درصد افزایش یافت و فقط در سهماهه نخست ۲۰۲۵، بیش از ۲۰۰ میلیون دلار خسارت مالی گزارش شد.
اکنون جعل صدا فقط با ۲۰ تا ۳۰ ثانیه صدا ممکن است و تولید یک ویدئوی دیپفیک قانعکننده فقط ۴۵ دقیقه زمان میبرد. در یکی از موارد دیگر، کلاهبرداران با تقلید صدای مدیرعامل فراری تماس گرفتند و لهجه ایتالیایی او را بهطور کامل بازسازی کردند. تماس فقط زمانی قطع شد که یکی از مدیران پرسشی پرسید که فقط مدیرعامل واقعی پاسخ آن را میدانست. این حملات همچنین مدیران شرکتهای بزرگی مانند WPP را هدف قرار دادهاند. کارشناسان امنیت مالی هشدار دادهاند که این تهدید نشاندهندهی «تغییر بنیادی از اختلال در سیاست به حمله مستقیم به عملیات کسبوکار» است.
چالشهای شناسایی هوش مصنوعی خطرناک
مکانیسمهای فعلی امنیتی در برابر این نوع تهدید تقریباً شکست خوردهاند. تحقیقات نشان میدهد سیستمهای شناسایی خودکار در شرایط واقعی تا ۵۰٪ افت دقت دارند. توانایی انسانها نیز در تشخیص دیپفیک فقط حدود ۵۵ تا ۶۰ درصد است — تقریباً به اندازه حدس تصادفی!
راب گریگ، مدیر فناوری اطلاعات شرکت Arup میگوید: «ما ذاتاً به نشانههای صوتی و تصویری اعتماد داریم، و این فناوریها دقیقاً از همین نقطه ضعف ما سوءاستفاده میکنند. حالا باید حتی چیزهایی را که میبینیم، زیر سؤال ببریم.» مسئله اصلی در نبرد نامتقارن بین تولید و تشخیص نهفته است. تولید ویدئوهای دیپفیک سالانه با نرخ ۹۰۰٪ رشد میکند، اما فناوری تشخیص عقب مانده است.
فناوریهای نو برای مقابله با هوشمصنوعی خطرناک
راهحلهای نوین در حال شکلگیریاند: سیستمهای تشخیص چندوجهی (صوت، تصویر و رفتار) اکنون در شرایط بهینه به ۹۴ تا ۹۶ درصد دقت دست یافتهاند. این سیستمها از ترکیب چند الگوریتم (ensemble methods) استفاده میکنند تا در برابر حملات مقاومتر باشند. برخی شرکتها این قابلیتها را مستقیماً در پلتفرمهای ارتباطی تعبیه کردهاند تا هشدارهای لحظهای در تماسهای زنده ارائه دهند.
رویکرد جدید بر یادگیری فدرال (federated learning) تکیه دارد — یعنی مدلها هر روز بهروز میشوند بدون آنکه حریم خصوصی نقض شود. همچنین استفاده از احراز هویت رمزنگاریشده در ارتباطات امنتر میتواند شکاف دفاعی را کاهش دهد.
ساختن تابآوری در برابر دیپفیکها
از آنجا که شناسایی کامل شاید هرگز ممکن نباشد، سازمانهای پیشرو رویکردی چندلایه اتخاذ کردهاند: ترکیبی از فناوری، سیاستگذاری و آموزش انسانی. نهادهای مالی در خط مقدم این تلاش قرار دارند.