هوش مصنوعی قادر است صدای انسان را به اندازه کافی تقلید کند که فناوری‌های دیپ‌فیک می‌توانند بسیاری از مردم را فریب دهند تا فکر کنند صدای کسی را می‌شنوند. این اجتناب ناپذیر است که از صداهای هوش مصنوعی در تماس های تلفنی خودکار استفاده شود. کمیسیون ارتباطات فدرال ایالات متحده در تلاش است تا با مضر ترین نسخه های این تلاش ها مبارزه کند و پیشنهادی با هدف تقویت حمایت از مصرف کننده در برابر تماس های رباتیک ناخواسته و غیرقانونی تولید شده توسط هوش مصنوعی دارد.
طرح FCC به شناسایی تماس‌ها و پیام‌هایی که توسط هوش مصنوعی تولید می‌شوند کمک می‌کند و به کمیسیون اجازه می‌دهد تا محدودیت‌ها و قوانینی را تعیین کند، مانند الزام صداهای هوش مصنوعی برای تشخیص جعلی بودن آنها هنگام تماس.
کاربرد هوش مصنوعی در ارتباطات و فعالیت‌های ناخواسته باعث تعجب نیست که FCC به دنبال ایجاد مقررات خود است. این همچنین بخشی از تلاش های کمیسیون ارتباطات فدرال برای مبارزه با تماس های رباتیک به عنوان یک مزاحم و وسیله ای برای ارتکاب کلاهبرداری است. هوش مصنوعی تشخیص و اجتناب از این طرح‌ها را دشوار می‌کند، که این پیشنهاد را برانگیخت، که نیاز به تشخیص صداها و کلمات ایجاد شده توسط هوش مصنوعی دارد. تماس باید با هوش مصنوعی شروع شود که منشأ مصنوعی آن چیزی که می‌گوید و صدایی که برای گفتن آن استفاده می‌شود را توضیح دهد. هر گروهی که این کار را نکند مشمول جریمه سنگینی می شود.
این طرح جدید به حکمی از کمیسیون ارتباطات فدرال در اوایل سال جاری اضافه می‌کند که می‌گفت فناوری شبیه‌سازی صدا در تماس‌های رباتیک بدون رضایت فرد تماس‌گیرنده غیرقانونی است. این ناشی از سردرگمی عمدی ایجاد شده توسط یک شبیه سازی صوتی جعلی از رئیس جمهور جو بایدن همراه با جعل شناسه تماس گیرنده برای انتشار اطلاعات نادرست به رای دهندگان نیوهمپشایر قبل از انتخابات مقدماتی ژانویه 2024 است.
استفاده از هوش مصنوعی برای کمک به
علاوه بر پیگیری منابع تماس‌های هوش مصنوعی، FCC اعلام کرد که می‌خواهد ابزارهایی را برای هشدار دادن به افراد در هنگام دریافت تماس‌های خودکار و پیام‌های متنی خودکار تولید شده توسط هوش مصنوعی، به‌ویژه پیام‌های ناخواسته یا غیرقانونی، راه‌اندازی کند. این ممکن است شامل فیلترهای تماس بهتری باشد که اصلاً از وقوع آنها جلوگیری می کند، الگوریتم های تشخیص مبتنی بر هوش مصنوعی یا شناسه تماس گیرنده بهبودیافته برای شناسایی و گزارش تماس های ایجاد شده توسط هوش مصنوعی. برای مصرف‌کنندگان، مقررات پیشنهادی FCC، لایه‌ای از محافظت در برابر تاکتیک‌های پیچیده‌تر مورد استفاده کلاهبرداران را ارائه می‌دهد. با تقاضای شفافیت و افزایش ابزارهای تشخیص، FCC قصد دارد خطر قربانی شدن مصرف‌کنندگان به کلاهبرداری‌های تولید شده توسط هوش مصنوعی را کاهش دهد.
صداهای مصنوعی ایجاد شده با استفاده از هوش مصنوعی در بسیاری از تلاش‌های مثبت نیز مورد استفاده قرار گرفته‌اند. به عنوان مثال، می‌تواند به افرادی که صدای خود را از دست داده‌اند، توانایی صحبت مجدد را بدهد و گزینه‌های جدیدی را برای برقراری ارتباط بین افراد دارای اختلال بینایی باز کند. FCC در پیشنهاد خود این موضوع را تصدیق کرد، حتی در حالی که تأثیر منفی این ابزارها را سرکوب می کند.
در بیانیه ای، جسیکا روزنورسل، رئیس FCC، گفت: «در مواجهه با موج فزاینده ای از اطلاعات نادرست، تقریباً سه چهارم آمریکایی ها می گویند که نگران محتوای گمراه کننده تولید شده توسط هوش مصنوعی هستند، به همین دلیل FCC کار خود را بر روی هوش مصنوعی متمرکز کرده است اصل اصلی یکی از اصول دموکراسی شفافیت است. او افزود: “نگرانی در مورد پیشرفت های این فناوری واقعی است و به درستی چنین است، اما اگر ما بر روی شفافیت و اقدام سریع در هنگام یافتن تقلب تمرکز کنیم، من معتقدم که می توانیم به خطرات این فناوری ها نگاه کنیم و از مزایای آنها استفاده کنیم. “