این تیم در حال ایجاد نرم افزاری برای جلوگیری از کلاهبرداری های فیشینگ با استفاده از هوش مصنوعی است

این تیم در حال ایجاد نرم افزاری برای جلوگیری از کلاهبرداری های فیشینگ با استفاده از هوش مصنوعی است

کلاهبرداری تلفنی

اعتبار: دامنه عمومی Pixabay/CC0

تیمی از محققان در دانشگاه تگزاس در آرلینگتون نرم‌افزاری را توسعه داده‌اند که از ایجاد سایت‌های فیشینگ توسط ربات‌های چت هوش مصنوعی (AI) مانند ChatGPT جلوگیری می‌کند – نگرانی فزاینده‌ای چون مجرمان سایبری از این فناوری برای مهندسی کلاهبرداری استفاده می‌کنند.

این نرم افزار که توسط شیرین نیلی زاده، استادیار دپارتمان علوم و مهندسی کامپیوتر و دانشجویان دکتری Sayak Saha Roy و Poojitha Thota ایجاد شده است، به چت ربات های مجهز به هوش مصنوعی اجازه می دهد تا دستورالعمل های وارد شده توسط کاربران را بهتر شناسایی و رد کنند. ایجاد سایت های فیشینگ .

در حال حاضر، چت ربات‌های هوش مصنوعی دارای برخی قابلیت‌های شناسایی داخلی هستند، اما دکتر نیلی‌زاده گفت که تیم او آسیب‌پذیری‌هایی را پیدا کرده است که می‌توانند به راحتی از ربات‌های چت برای ایجاد این حملات دور زده و از آنها سوء استفاده کنند. با ظهور ربات‌های گفتگوی مبتنی بر هوش مصنوعی، اجرای کلاهبرداری‌های آنلاین به طور فزاینده‌ای قابل دسترس شده است، حتی برای مهاجمان با حداقل مهارت‌های فنی. اکنون برای ایجاد یک وب سایت نیازی به تجربه برنامه نویسی نیست، زیرا هوش مصنوعی می تواند تقریباً فوراً یک سایت ایجاد کند.

نلی زاده گفت: “این ابزارها بسیار قدرتمند هستند و ما نشان می دهیم که مهاجمان چگونه می توانند از آنها سوء استفاده کنند.”

ساها روی گفت که برای توسعه ابزارهای خود، این گروه ابتدا دستورالعمل های مختلفی را شناسایی کردند که می توان از آنها برای ایجاد سایت های فیشینگ استفاده کرد. آنها با استفاده از این دانش، ربات‌های خود را با موفقیت آموزش دادند تا آن کلمات کلیدی و الگوهای خاص را تشخیص دهند و به آن‌ها واکنش نشان دهند و توانایی آن‌ها را برای شناسایی و جلوگیری از اجرای چنین ادعاهای مخرب توسط چت‌بات‌ها افزایش دهند.

کار این تیم مورد توجه قابل توجهی در صنعت امنیت سایبری قرار گرفته است که با انتشار اخیر آنها در سمپوزیوم IEEE در مورد امنیت و حریم خصوصی (IEEE S&P 2024) برجسته شده است. در ماه مه، محققان نه تنها یافته‌های خود را به اشتراک گذاشتند، بلکه جایزه مقاله برجسته را نیز دریافت کردند که بر تأثیر تحقیقات آنها تأکید بیشتری داشت.

ساها روی گفت: “من می خواهم مردم کار ما را بپذیرند و خطرات آن را ببینند.” “این از جامعه امنیتی شروع می شود و از آنجا ادامه می یابد.”

محققان با شرکت‌های بزرگ فناوری که این چت‌بات‌ها را هدایت می‌کنند، از جمله گوگل و OpenAI، تماس گرفته‌اند تا یافته‌های خود را در استراتژی‌های امنیتی گسترده‌تر هوش مصنوعی بگنجانند. ساها روی و توتا هر دو تعهد قوی به پیامدهای تحقیقات خود برای امنیت سایبری ابراز کردند.

توتا افزود: “من واقعا خوشحالم که توانستم روی این تحقیق مهم کار کنم.” من همچنین مشتاقانه منتظر به اشتراک گذاشتن این کار با همکاران امنیت سایبری خود و یافتن راه‌هایی برای ارتقای کارمان هستم.»

اطلاعات بیشتر:
Sayak Saha Roy و همکاران، از چت ربات ها تا ربات های فیشینگ؟: ساخت ربات های فیشینگ در مدل های زبان تجاری بزرگ، 2024 سمپوزیوم IEEE در مورد امنیت و حریم خصوصی (SP) (204). doi: 10.1109/SP54263.2024.00182. www.computer.org/csdl/proceedi…3000a221/1WPcYLpYFHy

ارائه شده توسط دانشگاه تگزاس در آرلینگتون

نقل قول: تیم نرم افزاری برای جلوگیری از کلاهبرداری های فیشینگ با استفاده از هوش مصنوعی ایجاد می کند (2024، 21 ژوئن) بازیابی شده در 22 ژوئن 2024 از https://techxplore.com/news/2024-06-team-software-block-ai-phishing.html

این برگه یا سند یا نوشته تحت پوشش قانون کپی رایت است. علی‌رغم هرگونه معامله منصفانه به منظور مطالعه یا تحقیق خصوصی، هیچ بخشی بدون اجازه کتبی قابل تکثیر نیست. محتوا فقط برای مقاصد اطلاعاتی ارائه شده است.

منبع

بخوان  ویدئو / «آرتِمیس ۱»؛ اولین گام برای بازگشت به فضانوردان به ماه