این روزها خبرهای زیادی از توانایی های هوش مصنوعی ChatGPT منتشر می شود. این سیستم قادر است به سؤالات علمی و فلسفی پاسخ دهد، قادر به کد نویسی و اشکال زدایی می باشد و حتی می تواند به بررسی آلزایمر به انسان کمک کند. اما مانند هر فناوری جدید، چت بات مبتنی بر هوش مصنوعی توسط OpenAI در معرض خطر سوء استفاده قرار دارد. محققان Check Point Software دریافتند که ChatGPT می تواند برای ایجاد ایمیل های فیشینگ استفاده شود.
چت بات در ترکیب با Codex، یک سیستم زبان به کد طبیعی تبدیل می شود که توسط OpenAI انجام می شود، این ابزار با این ترکیب می تواند برای توسعه و تزریق کدهای مخرب استفاده شود. «محققان توانستند یک زنجیره کامل آلوده به بدافزار ایجاد کنند که از یک ایمیل فیشینگ شروع میشود و با یک سند اکسل که دارای کدهای مخرب VBA [Visual Basic for Application] است ادامه پیدا می کند. محققان می توانند کل بدافزار را در یک فایل اجرایی کامپایل کنند و آن را در یک سیستم اجرا کنند.» ChatGPT بیشتر «ایمیل‌های فیشینگ و جعل هویت بسیار بهتر و قانع‌کننده‌تر از ایمیل‌های فیشینگ واقعی که اکنون می‌بینیم، تولید می‌کند».
سرگئی شیکویچ مدیر ارشد شرکت Check Point Software می گوید: ChatGPT به افراد بیشتری اجازه می دهد تا کدنویس شوند، اما بزرگترین خطر این است که افراد بیشتری می توانند توسعه دهندگان بدافزار شوند. وقتی صحبت از ChatGPT می شود، تکرارشدن بسیار مهم است. شیکویچ می‌گوید: « خروجی این ابزار در ابتدا به صورت کد نبود. من نحوه استفاده از آن را با سرویس گوگل ترنسلیت مقایسه کردم، جایی که اکثر خروجی ها خوب خواهد بود. با این حال مانند گوگل ترنسلیت می توان با سفارشی سازی خروجی های این چت بات، می توان این ابزار را به کد نهایی و دلخواه مجبور کرد .
لوری فیث کرانور، مدیر و استاد برجسته Bosch در موسسه امنیت و حریم خصوصی CyLab و استاد سیستم های FORE در علوم کامپیوتر و مهندسی و سیاست عمومی در دانشگاه کارنگی ملون، دیدگاه یکسانی با محققان شرکت Check Point Software دارد. او گفت: من سعی نکرده‌ام از ChatGPT برای تولید کد استفاده کنم، اما نمونه‌هایی از دیگران دیده‌ام که ایجاد کرده اند. این سیستم هوش مصنوعی کدی تولید می‌کند که آنقدرها هم پیچیده نیست، اما برخی از آنها در واقع کد قابل اجرا هستند.» ابزارهای هوش مصنوعی دیگری برای تولید کد وجود دارد و همه آنها هر روز بهتر می شوند. ChatGPT احتمالاً در حال حاضر در تولید متن برای انسان ها بهتر است و ممکن است به ویژه برای تولید چیزهایی مانند ایمیل های جعلی واقع گرایانه مناسب باشد.
محققان همچنین هکرهایی را شناسایی کرده‌اند که از ChatGPT برای توسعه ابزارهای مخرب مانند دزد اطلاعات و بازار وب تاریک استفاده می‌کنند.
کرنور می‌گوید: «من فکر می‌کنم امروزه استفاده موفقیت‌آمیز از این ابزارهای هوش مصنوعی [AI] به دانش فنی نیاز دارد، اما من انتظار دارم با گذشت زمان گرفتن خروجی از این ابزارها و انجام حملات سایبری آسان‌تر شود. بنابراین، در حالی که مشخص نیست آنچه که امروزه ابزارها می توانند انجام دهند بسیار نگران کننده تر از ابزارهای توسعه یافته توسط انسان است که به طور گسترده به صورت آنلاین توزیع می شوند، دیری نمی گذرد که این ابزارها حملات پیچیده تری را با توانایی ایجاد سریع ایجاد می کنند.
شیکویچ می‌گوید: «هیچ راه خوبی برای مشخص کردن اینکه یک نرم‌افزار خاص، بدافزار یا حتی ایمیل فیشینگ توسط ChatGPT نوشته شده است وجود ندارد، زیرا هیچ امضایی وجود ندارد. به نوبه خود، OpenAI در حال کار بر روی روشی برای “واترمارک کردن” خروجی های مدل های GPT است که بعدا می تواند برای اثبات اینکه آنها توسط هوش مصنوعی به جای انسان تولید شده اند، استفاده شود. شیکویچ همچنین خاطرنشان می کند که پس از انتشار یافته های Check Point Software، محققان دریافتند که دیگر امکان ایجاد ایمیل های فیشینگ با استفاده از ChatGPT وجود ندارد.
برای محافظت در برابر این تهدیدات ایجاد شده توسط هوش مصنوعی، شیکویچ به شرکت‌ها و افراد توصیه می‌کند که تدابیر امنیتی سایبری مناسب را اتخاذ کنند. پادمان‌های فعلی همچنان اعمال می‌شوند، و ادامه به‌روزرسانی و تقویت این پیاده‌سازی‌ها حیاتی است. کرنور می‌گوید: «محققان همچنین در حال کار بر روی روش‌هایی برای استفاده از هوش مصنوعی برای کشف آسیب‌پذیری‌های کد و شناسایی حملات هستند. “امیدواریم که پیشرفت در سمت دفاعی بتواند با پیشرفت در سمت مهاجم همگام شود، اما این موضوعی است که در آینده نتیجه آن مشخص می شود.”
در حالی که سیستم‌های مبتنی بر هوش مصنوعی مانند ChatGPT پتانسیل بسیار زیادی برای تغییر نحوه تعامل انسان‌ها با فناوری دارند، اما خطراتی را نیز به همراه دارند، به‌ویژه زمانی که به روش‌های خطرناک استفاده شوند. شیکویچ می گوید: «ChatGPT یک فناوری بی نظیری است و پتانسیل دموکراتیک کردن هوش مصنوعی را دارد. «هوش مصنوعی نوعی ویژگی پر سر و صدا بود که فقط متخصصان علوم کامپیوتر یا الگوریتم آن را درک می کردند. در حال حاضر، افرادی که از فناوری آگاه نیستند، شروع به درک هوش مصنوعی کرده اند و سعی می کنند آن را در زندگی روزمره خود بکار گیرند. اما بزرگترین سوال این است که چگونه از آن استفاده می کنید و برای چه اهدافی؟
منبع spectrum
