گوگل اعلام کرد که شروع به ارائه یک ویژگی جدید می کند تا به کاربران کمک کند “در درک بهتر نحوه ایجاد و ویرایش یک قطعه خاص از محتوا”.
این امر پس از پیوستن این شرکت به Content Provenance and Authenticity Alliance (C2PA) – گروهی از برندهای بزرگ در تلاش برای مبارزه با انتشار اطلاعات نادرست آنلاین – و کمک به توسعه آخرین استانداردهای اعتبار محتوا صورت گرفت. این کمیته همچنین شامل آمازون، ادوبی و مایکروسافت است.
گوگل می گوید از دستورالعمل های اعتبار محتوای موجود – یا آنچه به عنوان ابرداده تصویر شناخته می شود – در پارامترهای جستجو برای اضافه کردن برچسب به تصاویر ایجاد شده یا ویرایش شده توسط هوش مصنوعی استفاده می کند و شفافیت بیشتری را برای کاربران فراهم می کند. این ابرداده شامل اطلاعاتی مانند منشاء تصویر و همچنین زمان، مکان و نحوه ایجاد آن است.
با این حال، استاندارد C2PA که به کاربران امکان ردیابی منشاء انواع مختلف رسانه را می دهد، توسط بسیاری از توسعه دهندگان هوش مصنوعی مانند Black Forrest Labs – شرکتی که مدل Flux را پشت سر گذاشته است که X’s Grok (توئیتر سابق) برای تولید استفاده می کند، رد شده است. تصاویر .
این برجسته سازی هوش مصنوعی از طریق پنجره درباره این تصویر موجود گوگل انجام می شود، به این معنی که از طریق لنز گوگل و ویژگی «دایره برای جستجو» اندروید نیز در دسترس کاربران قرار خواهد گرفت. پس از راه‌اندازی، کاربران می‌توانند روی سه نقطه در بالای تصویر ضربه بزنند و «درباره این تصویر» را انتخاب کنند تا بررسی کنند که آیا این تصویر توسط هوش مصنوعی تولید شده است یا خیر – بنابراین آن‌طور که انتظار داشتیم واضح نباشد.
آیا این کافی است؟
در حالی که گوگل باید این کار را انجام دهد یه چیزی با توجه به تصاویر تولید شده توسط هوش مصنوعی در نتایج جستجو، این سوال باقی می ماند که آیا علامت گذاری پنهان کافی است یا خیر. اگر این ویژگی همانطور که گفته شد کار کند، کاربران باید قبل از تایید گوگل، مراحل بیشتری را برای بررسی اینکه آیا تصویر با استفاده از هوش مصنوعی ایجاد شده است انجام دهند. کسانی که قبلاً از وجود ویژگی About This Image اطلاعی ندارند، ممکن است حتی متوجه نباشند که ابزار جدیدی برای آنها در دسترس است.
در حالی که ویدئوهای جعلی مواردی مانند مورد اوایل سال جاری را مشاهده کرده اند که در آن یک کارمند مالی برای پرداخت 25 میلیون دلار به گروهی که جعل هویت مدیر مالی او بودند، فریب خورده است، تصاویر تولید شده توسط هوش مصنوعی مشکل تقریبا مشابهی را ایجاد می کنند. دونالد ترامپ اخیراً عکس‌های دیجیتالی از تیلور سوئیفت و طرفدارانش را منتشر کرد که به دروغ از کمپین ریاست‌جمهوری او حمایت کردند و سوئیفت خود را قربانی آزار جنسی مبتنی بر تصویر دید که عکس‌های برهنه او توسط هوش مصنوعی در فضای مجازی منتشر شد.
در حالی که به راحتی می توان شکایت کرد که گوگل به اندازه کافی کار نمی کند، متا مایل نیست که گربه را از کیف خارج کند. این غول رسانه‌های اجتماعی اخیراً سیاست خود را در مورد کاهش دیده شدن برچسب‌ها، انتقال اطلاعات مرتبط به منوی پست به‌روزرسانی کرده است.
در حالی که این ارتقا به ابزار About This Image اولین گام مثبت است، اقدامات سختگیرانه دیگری برای اطلاع و محافظت از کاربران مورد نیاز است. شرکت‌های بیشتری مانند تولیدکنندگان دوربین و توسعه‌دهندگان ابزار هوش مصنوعی نیز باید واترمارک‌های C2PA را بپذیرند و از آن استفاده کنند تا مطمئن شوند که این سیستم تا حد امکان مؤثر است زیرا Google بر این داده‌ها تکیه می‌کند. برخی از مدل‌های دوربین مانند Leica M-11P و Nikon Z9 دارای ویژگی‌های Content Credentials هستند، در حالی که Adobe یک نسخه بتا را در Photoshop و Lightroom پیاده‌سازی کرده است. اما باز هم استفاده از امکانات و ارائه اطلاعات دقیق به عهده کاربر است.
در مطالعه ای که توسط دانشگاه واترلو انجام شد، تنها 61 درصد از مردم توانستند بین تصاویر تولید شده توسط هوش مصنوعی و تصاویر واقعی تمایز قائل شوند. اگر این اعداد دقیق باشند، سیستم رتبه بندی گوگل هیچ شفافیت اضافی برای بیش از یک سوم افراد ارائه نمی دهد. با این حال، این یک حرکت مثبت از طرف گوگل در برابر نبرد برای مهار اطلاعات نادرست آنلاین است، اما اگر غول‌های فناوری این رتبه‌بندی‌ها را در دسترس‌تر قرار دهند، خوب خواهد بود.