Graphika گفت که این دیپ‌فیک‌ها را در پلتفرم‌هایی از جمله توییتر، فیس‌بوک و یوتیوب در حین ردیابی عملیات اطلاعات نادرست طرفدار چین به نام «هرزنامه» کشف کرده است.
شرکت تحقیقاتی Graphika مستقر در ایالات متحده در گزارش خود گفت که مجریان جعلی – برای یک خبرگزاری ساختگی به نام Wolf News – توسط نرم‌افزار هوش مصنوعی ایجاد شده و در تصاویری در رسانه‌های اجتماعی ظاهر شده‌اند که به نظر می‌رسد منافع حزب کمونیست چین را ترویج می‌کنند.
این برگه یا سند یا نوشته تحت پوشش قانون کپی رایت است. به غیر از هرگونه معامله منصفانه به منظور مطالعه یا تحقیق خصوصی، هیچ بخشی بدون اجازه کتبی قابل تکثیر نیست. محتوای مذکور فقط به هدف اطلاع رسانی ایجاد شده است.
در یکی از ویدئوهای تحلیل شده توسط Graphika، مجری مرد خیالی که خود را الکس می نامد، از انفعال ایالات متحده در مورد خشونت با اسلحه در کشور انتقاد می کند. در دوم، یک مجری زن بر اهمیت “همکاری قدرت های بزرگ” بین چین و ایالات متحده تاکید می کند.
پیشرفت‌های هوش مصنوعی هشدار جهانی را در مورد پتانسیل این فناوری برای اطلاعات نادرست و سوء استفاده ایجاد کرده است، با تصاویر عمیق جعلی که از هوا ایجاد می‌شوند و مردم چیزهایی را به زبان می‌آورند که هرگز نگفته‌اند.
نقل قول: مجریان خبری دیپ فیک در فیلم طرفدار چین: تحقیق (2023، 8 فوریه) بازیابی شده در 8 فوریه 2023 از
گزارش Graphika می گوید که دو مجری Wolf News تقریباً به طور قطع با استفاده از فناوری ارائه شده توسط استارتاپ هوش مصنوعی مستقر در لندن، Synthesia ایجاد شده اند.
هیچ اظهارنظر فوری از سوی چین در مورد گزارش Graphika منتشر نشده است، گزارشی که تنها چند هفته پس از تصویب قوانین گسترده پکن برای تنظیم دیپ فیک منتشر شده است.
استابز گفت: «اسپموفلاژ یک عملیات نفوذ طرفدار چین است که عمدتاً ویدیوهای هرزنامه سیاسی با کیفیت پایین را تقویت می کند.
«پخش‌کننده‌های خبری» به‌طور خیره‌کننده‌ای واقعی به نظر می‌رسند، اما آنها در نوع اول ویدئوهای تبلیغاتی خود، که یک گزارش تحقیقاتی منتشر شده به بازیگران وابسته به دولت چین نسبت داده‌اند، دیپ‌فیک‌هایی هستند که توسط هوش مصنوعی تولید می‌شوند.
به گفته محققان، دیپ فیک های ایجاد شده توسط هوش مصنوعی، از جمله ویدئوهای تبلیغاتی جدید منتسب به بازیگران وابسته به دولت چین، نگرانی فزاینده ای هستند.
جک استابز، معاون اطلاعات در Graphika، به خبرگزاری فرانسه گفت: «این اولین باری است که ما شاهدیم که یک عملیات دولتی از فیلم‌های ویدئویی تولید شده توسط هوش مصنوعی از یک فرد ساختگی برای ایجاد محتوای سیاسی فریبنده استفاده می‌کند.
دولت چین هشدار داده است که دیپ فیک ها “خطری برای امنیت ملی و ثبات اجتماعی” هستند.
سال گذشته، متا، مالک فیس‌بوک گفت که یک ویدیوی عمیق جعلی از ولودیمیر زلنسکی، رئیس‌جمهور اوکراین را حذف کرده است که از شهروندان خواسته بود سلاح‌های خود را زمین بگذارند و تسلیم روسیه شوند.
“علیرغم استفاده از برخی فناوری های پیچیده، این جدیدترین ویدئوها تقریباً مشابه هستند. این نشان دهنده محدودیت های استفاده از دیپ فیک در عملیات نفوذ است – آنها فقط یک ابزار در یک جعبه ابزار پیشرفته هستند.”
چین ماه گذشته قوانین جدیدی را به اجرا درآورد که به کسب و کارهایی که خدمات دیپ فیک ارائه می دهند ملزم می شود هویت واقعی کاربران خود را به دست آورند. آنها همچنین نیاز به برچسب گذاری مناسب محتوای عمیق جعلی دارند تا از “هر گونه سردرگمی” جلوگیری شود.
وب سایت Synthesia که بلافاصله به درخواست AFP برای اظهار نظر پاسخ نداد، نرم افزاری را برای ایجاد آواتارهای دیپ فیک “بر اساس فیلم های ویدئویی از بازیگران واقعی” تبلیغ می کند.
