fa en en en en en en en en en en fr en fa fa fa fa fa fa fa fa fa fa fa fa fa fa fa hbs_lat hbs_lat en en fa en en en en en en en fa en en en en en en en en en en
آموزش هکرها برای استفاده از هوش مصنوعی در حمله به امنیت سایبری به یکی از دغدغه‌های جدی سازمان‌های تولید کننده داده تبدیل شده است. AI Fuzzing روشی برای تست عملکرد نرم‌افزار در حوزه امنیت سایبری در هوش مصنوعی است که توسط سازمان‌ها برای تشخیص آسیب‌پذیری یا اشکالات یک نرم‌افزار یا سیستم مورد استفاده قرار می‌گیرد. این روش به خودی خود هیچ اشکالی ندارد تا زمانی که هکرها از آن برای ارتکاب جرم‌های سایبری استفاده کنند.
امنیت داده‌ها به نقل همه محافل تبدیل شده است. از زمانی که تعداد حمله‌های سایبری و حفره‌های امنیتی بیشتر شده، هر روز گزارش‌های بیشتری درباره جرائم سایبری منتشر می‌شود. بر اساس آمارها، این جرائم تا سال ۲۰۲۱ سالانه به میزان ۶ تریلیون دلار به شرکت‌ها آسیب زده‌اند. این رقم در سال ۲۰۱۵ سه تریلیون دلار بود‍! این افزایش بی‌سابقه نشان می‌دهد، روش‌های سنتی افزایش امنیت سایبری در هوش مصنوعی دیگر جوابگو نیستند. از همین رو سازما‌ن‌ها در سراسر جهان روزانه به دنبال‌ شیوه‌های بدون نقص برای تقویت امنیت سایبری هستند. رسیدن به یک جایگاه مطلق در امنیت سایبری یکی از اهداف متخصصان این حوزه است که اخیرا تصمیم گرفته‌اند با راهکارهای نوینی به مقابله با هکرها بپردازند. ترکیب هوش مصنوعی و یادگیری ماشین با روش‌ سنتی Fuzzing باعث شده تا یک رویکرد جدید در این حوزه شکل بگیرد.
از آنجایی که این رویکرد چندان شناخته شده نیست، خیلی از ما تعریف و دامنه آن را نمی‌دانیم. پس در ادامه با هوشیو که یکی از مراجع خبری اصلی در حوزه فناوری‌های هوش مصنوعی است همراه باشید تا بیشتر با AI Fuzzing آشنا شویم.
منظور از AI Fuzzing چیست؟
قبل از اینکه بدانیم AI Fuzzing چیست، باید مفهوم فازی یا همان Fuzzing را بررسی کنیم. با رشد فناوری‌ها، هکرها هم باهوش‌تر می‌شوند. آنها اکنون از شیوه‌های قدیمی به سمت تکنیک‌‌های خودکار در حمله‌های سایبری روی آورده‌اند که می‌تواند با سواستفاده از توان پردازشی سیستم قربانی، او را مورد حمله قرار دهد. این طبیعی است که سازما‌ن‌ها هم باید به همین سمت بروند، از روش‌های خودکار در تشخیص خطاها و آسیب‌پذیری‌های نرم‌افزار استفاده کنند تا ضمن مقابله با هکرها، ضریب امنیت سایبری را افزایش دهند. روش فازی یکی از همین روش‌های خودکار است که در قالب یک سیستم مدیریت آسیب‌پذیری از آن استفاده می‌شود. در این سیستم ترکیب تصادفی از داده‌ها به نرم‌افزارها تزریق می‌شود تا خطاها و آشفتگی‌ها تعیین شود. به عبارت دیگر این داده‌های تصادفی میزان انسجام، دقت، کارایی و خطاهای سیستم‌ها را نشان می‌دهند. هدف نهایی تکنیک فازی تشخیص حفره‌های سیستمی در نرم‌افزارها است. این حفره‌ها در مسیر توسعه نرم‌افزار یا اپلیکیشن ترمیم ‌می‌شوند. یکی از قسمت‌های مهم هر نرم‌افزار که با استفاده از این تکنیک بررسی می‌شوند، نقاط ورود هکرها هستند.
نقش هوش مصنوعی در تکنیک فازی بهبود کیفیت داده‌های تصادفی است که به نرم‌افزارها تزریق می‌شود. در هر بار تست حجم وسیعی از داده‌ها مورد استفاده قرار می‌گیرند. گاهی اوقات دامنه کدهای تزریق شده به سیستم‌ها کامل نیست و ممکن است نتایج مورد انتظار دریافت نشود. بنابراین شرکت‌ها به ابزاری نیاز دارند که نه تنها توانایی درک مجموعه داده‌های تصادفی را داشته باشد بلکه بتواند کدها یا داده‌های جدیدی تولید کند که دامنه تطبیق آن‌ها را افزایش دهد، ابزاری که بتواند داده‌های قبلی که به نرم‌افزار ترزیق شده را شناسایی و تحلیل کند، رفتارهای آن داده‌ها را یاد بگیرد و خودش ورودی‌های جدید تولید کند. این ابزار هوش مصنوعی است. سازمان‌ها با توجه به اهمیت همین موضوع در حال استفاده از هوش مصنوعی در تکنیک فازی برای تقویت امنیت سایبری هستند. با استفاده از هوش مصنوعی در این فرایند، امکان اجرای تست‌های نرم‌افزاری با کیفیت بیشتر فراهم می‌شود که طبیعتا میزان تشخیص آسیب‌پذیری‌ها را افزایش می‌دهد.
هکرها چگونه با هدف حمله به امنیت سایبری در هوش مصنوعی از AI Fuzzing استفاده می‌کنند؟
داستان این است که اغلب درباره کاربردهای هوش مصنوعی در توانمندسازی شرکت‌ها برای افزایش امنیت سایبری در هوش مصنوعی صحبت شده اما کمتر به این حقیقت اشاره شده که همین هوش مصنوعی و انواع کاربردهای آن می تواند مورد استفاده مجرمان سایبری یا هکرها نیز قرار بگیرد. آنها می‌توانند سیستم‌هایی را به وجود بیاورند که به نرم‌افزارها و اپلیکیشن‌ها حمله می‌کند و با انجام اعمال غیرقانونی امنیت آن‌ها را به خطر می‌اندازد. این وضعیت در مورد AI Fuzzing نیز صادق است.
منظور از آسیب‌پذیری که مورد غفلت قرار گرفته، اشکالات یا خطاهای سیستمی هستند که توسط دولوپر تشخیص داده شده اما هنوز راهکاری برای آنها ارائه نشده است. هکرها از همین بازه زمانی استفاده می‌کنند و تا قبل از به روزرسانی کدها توسط دولوپر، به سیستم قربانی حمله می‌کنند. اکنون تحقیقات نشان می‌دهد به کارگیری هوش مصنوعی در این فرایند، شانس پیدا شدن آسیب‌پذیری‌های مورد غفلت قرار گرفته را افزایش می‌دهد.
«پائول هنری»، معاول یکی از سازمان‌های تولید کننده نرم‌افزارهای تجاری معتقد است: «تأمین کنندگان نرم‌افزارها در نبرد همیشگی با هکرها تلاش می‌کنند تا با ارائه بسته‌های نرم‌افزاری برای به ‌روزرسانی، امنیت سایبری کاربران‌شان را افزایش دهند. با این حال استفاده از روش‌‌های فازی ممکن است آن‌ها را زیر سیلی از آسیب‌پذیری‌ها غرق کند. تکنیک‌های فازی در کنار هوش مصنوعی هم به معنی وخامت بیشتر اوضاع است. هکرها در همکاری با سایر هکرها از طریق اتاق‌های چت درباره استفاده از هوش مصنوعی به آنها می‌گویند. حتی کار به جایی رسیده که هکرها می‌توانند با توسل به اینترنت، بدون اینکه وای‌فای کاربر روشن باشد، به سیستم او حمله و در صورت وجود آسیب‌پذیری به آن رخنه کنند.
بر اساس آمارهای یک شرکت استرالیایی فعال در زمینه فناوری اطلاعات، AI Fuzzing در لیست ۱۰ تهدید جدی امنیت سایبری قرار دارد. در کنار این تکنیک، هکرها یکی از دیگر از بخش‌های هوش مصنوعی به عنوان یادگیری ماشین را نیز به نفع خودشان به کار گرفته‌اند. نام این روش MI Poisoning است. یادگیری ماشین در سازمان‌ها با هدف تسهیل و بهینه‌سازی فرایندهای کاری مورد استفاده قرار می‌گیرد و حتی برای مقابله با حمله‌های سایبری هم از آن استفاده شده است. اما متأسفانه هکرها با رخنه به سیستم‌های یادگیری ماشین، قطعه‌های مخربی از کدهای یادگیری ماشین را درون آنها قرار می‌دهند. این کدها می‌توانند عملکرد سیستم را تغییر دهند و آن را به اجرای دستورهای خاصی مجبور کنند. طیف این کدهای مخرب از عدم پذیرش بسته‌های به روزرسانی تا عدم پردازش ترافیک برخی از داده‌ها گسترده هستند.
تهدیدهای امنیتی از این دست که هر روز امنیت سایبری افراد را تهدید می‌کنند را نمی‌توان با راهکارهای سنتی از میان برداشت. بازاندیشی درباره فناوری‌های امنیتی و توسعه استراتژی‌های نوین برای مقابله با تهدید‌ها یکی از اولویت‌های فعلی سازمان‌ها است. با این حال تاثیرگذاری بر روی مدل‌های هک هم می‌تواند کارآمد باشد. در واقع خودکارسازی و فناوری‌های نوین به سازمان‌اها اجازه می‌دهند تا در کنار پیش‌بینی فعالیت‌های مجرمانه، استراتژی‌های اقتصادی آن را نیز به هم بزنند. علاوه بر اینها آزمایش سیستم‌ها و نرم‌افزارها و بررسی نقاط ورود هکرها، برای وجود خطا با فناوری‌های نوین از جمله هوش مصنوعی، نتایج بهتری به بار می‌آورد. با توجه به تمام این نکته‌ها، سازما‌ن‌ها قطعا می‌توانند داده‌های دیجیتال‌شان را از خطر هک شدن مصون کنند.