اگر با آخرین پیشرفت‌های هوش مصنوعی مولد همراهی کرده‌اید، ممکن است متوجه شده باشید که Google گسترش بخش «نمایش‌های هوش مصنوعی» در جستجوی Google را در تمام نقاط ایالات متحده افزایش داده است.
در Google I/O 2024 که در 14 مه برگزار شد، گوگل با اطمینان، AI Overviews را به عنوان چیز بزرگ بعدی در جستجو معرفی کرد که انتظار داشت کاربران را شگفت زده کند، و زمانی که این ویژگی در نهایت هفته بعد شروع به عرضه کرد، با استقبال کمتری مواجه شد. این عمدتاً به این دلیل بود که AI Overviews اطلاعات عجیب و کاملاً اشتباهی را برمی‌گرداند، و اکنون، گوگل با توضیح آنچه اتفاق افتاده و چرا AI Overviews به این روش عمل کرده است پاسخ داده است (به گفته گوگل).
هدف این ویژگی ارائه پاسخ‌های پیچیده‌تر و شفاهی بهتر به پرسش‌های کاربران، جمع‌آوری دسته‌ای از اطلاعات مرتبط و تجزیه آن به چند پاراگراف مناسب بود. این خلاصه پس از آن با پیوندهای آبی فهرست شده با توضیحات کوتاهی از وب سایت هایی که با آنها آشنا هستیم دنبال می شود.
متأسفانه برای گوگل، اسکرین شات هایی از AI Overviews که اطلاعات عجیب و غریب، غیرمنطقی و کاملاً نادرست ارائه می کرد، مدت کوتاهی پس از راه اندازی در رسانه های اجتماعی پخش شد. گوگل از آن زمان این ویژگی را حذف کرد و یک پست توضیحی در وبلاگ “Keyword” خود منتشر کرد تا توضیح دهد چرا AI Overviews این کار را انجام می دهد، همانطور که اشاره کردیم – و به سرعت اشاره کرد که بسیاری از این اسکرین شات ها جعلی هستند.
چه نمای کلی از هوش مصنوعی قرار بود باشد
در پست وبلاگ، گوگل ابتدا توضیح می‌دهد که نمای کلی هوش مصنوعی برای جمع‌آوری و ارائه اطلاعاتی طراحی شده است که باید از طریق جستجوهای متعدد بیشتر جستجو کنید تا در غیر این صورت پی ببرید، و به‌طور برجسته پیوندهایی را به اعتباری که اطلاعات از آنجا می‌آیند، اضافه می‌کند. شما به راحتی می توانید از خلاصه.
به گفته گوگل، این فقط مدل های زبان بزرگ آن (LLM) نیستند که پاسخ های قانع کننده ای را بر اساس داده های آموزشی موجود جمع آوری می کنند. AI Overviews توسط مدل زبان سفارشی خود که سیستم‌های طبقه‌بندی وب اصلی Google را ادغام می‌کند، که برای انجام جستجوها و گنجاندن اطلاعات مرتبط و با کیفیت بالا در خلاصه استفاده می‌شود، ارائه می‌شود. این شرکت اشاره می‌کند که دقت یکی از سنگ بناهایی است که گوگل به آن افتخار می‌کند و می‌گوید مروری بر هوش مصنوعی ساخته است تا فقط اطلاعات جمع‌آوری‌شده از نتایج وب را که بهترین‌ها می‌داند نشان دهد.
این بدان معنی است که نمای کلی هوش مصنوعی معمولاً نسبت به سایر محصولات LLM توهمات کمتری ایجاد می کند، و اگر مشکلی پیش بیاید، احتمالاً به دلیلی است که Google هنگام جستجو با آن مواجه می شود، با توجه به مشکلات احتمالی مانند “تعبیر نادرست پرس و جوها، تفسیر نادرست از توضیح” تفاوت های ظریف زبان در وب، یا نداشتن اطلاعات عالی زیادی در دسترس است.»
اتفاقی که واقعا در طول عرضه رخ داد
گوگل همچنان اشاره می کند که AI Overviews برای دقت بهینه سازی شده است و قبل از انتشار گسترده تر آزمایش شده است، اما علیرغم این تلاش های تهاجمی تست، گوگل اعتراف می کند که اینطور نیست که میلیون ها نفر از طریق جریانی از جستجوهای جدید این ویژگی را تجربه کرده باشند. . او همچنین پیشنهاد می‌کند که برخی افراد با انجام جستجوهای مضحک تلاش می‌کردند موتور جستجوی آن را به تولید یک نمای کلی بی‌معنی از هوش مصنوعی تحریک کنند.
به نظر من این بخش از توضیحات گوگل کمی عجیب است، زیرا تصور می‌کنم هنگام ایجاد ویژگی مانند AI Overviews، این شرکت از این که افراد احتمالاً سعی می‌کنند آن را بشکنند یا به نحوی از مسیر خارج کنند، قدردانی می‌کند و بنابراین باید اینطور باشد. طراحی شده برای رسیدگی به جستجوهای احمقانه یا مزخرف در مراحل او.
به هر حال، گوگل سپس تصاویر جعلی برخی از مرورهای غیرمنطقی و مضحک هوش مصنوعی را که راه خود را در سراسر وب باز کرده اند، ارائه می کند، که من حدس می زنم منصفانه است. این به ما یادآوری می‌کند که نباید همه چیزهایی را که آنلاین می‌بینیم باور کنیم، البته اگر اسکرین‌شات‌های جعلی اگر آنها را از نزدیک بررسی نکنید، بسیار خوب به نظر می‌رسند (به هر حال همه این موارد بر لزوم تأیید ویژگی‌های تولید شده توسط هوش مصنوعی تأکید می‌کند).
با این حال، گوگل تصدیق می‌کند که مرورهای هوش مصنوعی گاهی اوقات ممکن است پاسخ‌های عجیب، نادرست یا غیر مفیدی را ایجاد کند. او به تفصیل توضیح می‌دهد که دلایل متعددی برای این اتفاق وجود دارد، و اینکه کل این قسمت قسمت‌های خاصی را برجسته کرده است که نمای کلی هوش مصنوعی را می‌توان بهبود بخشید.
این شرکت فناوری همچنین خاطرنشان می‌کند که این مرورهای مشکوک از هوش مصنوعی در جستجوهایی برای جستجوهایی که اغلب اتفاق نمی‌افتند ظاهر می‌شوند. یکی از کاربران Threads، @crumbler، یک اسکرین شات از مرورهای هوش مصنوعی منتشر کرد که پس از اینکه از گوگل پرسیدند: «چند سنگ باید بخورم؟» در فضای مجازی منتشر شد. این شامل یک نمای کلی هوش مصنوعی است که خوردن حداقل یک سنگ کوچک در روز را توصیه می کند. توضیح گوگل این است که قبل از انتشار این اسکرین شات در اینترنت، این سوال به ندرت در جستجو پرسیده می شد (که مطمئناً به اندازه کافی منصفانه است).
گوگل در ادامه به این نکته اشاره می کند که منبع باکیفیت زیادی برای پاسخگویی جدی به این سوال وجود ندارد، و همچنین مواردی را که این اتفاق می افتد را “خلأ اطلاعات” یا “شکاف اطلاعاتی” می نامند. علاوه بر این، در مورد درخواست بالا، برخی از تنها محتوای موجود ماهیت طنز داشتند و به طور جدی به عنوان یکی از تنها وب سایت هایی که به این پرس و جو پرداخته بود، پیوند داده شد.
سایر مرورهای غیرمنطقی و مضحک درباره جزئیات هوش مصنوعی از منابع محتوای طنز یا طنز و پست های ترول مشابه از انجمن های گفتگو به دست آمد.
مراحل بعدی گوگل و مروری بر آینده هوش مصنوعی
گوگل هنگام توضیح اینکه برای اصلاح و بهبود مرورهای هوش مصنوعی یا هر بخشی از نتایج جستجو چه می کند، خاطرنشان می کند که صفحات نتایج جستجو را یک به یک بررسی نمی کند. در عوض، شرکت تلاش می‌کند تا به‌روزرسانی‌هایی را پیاده‌سازی کند که بر مجموعه‌های پرس‌و‌جوها، از جمله پرس‌و‌جوهای احتمالی آینده تأثیر می‌گذارد. گوگل ادعا می‌کند که در تجزیه و تحلیل مواردی که مرورهای هوش مصنوعی اشتباه می‌کردند، توانست الگوهایی را شناسایی کند و مجموعه‌ای از اقدامات جدید را برای ادامه بهبود این ویژگی اعمال کرده است.
شما می‌توانید فهرست کامل را در پست Google ببینید، اما قابلیت‌های تشخیص بهتری برای جستارهای بی‌معنی که تلاش می‌کنند یک نمای کلی هوش مصنوعی عجیب و غریب ایجاد کنند، در حال اجرا هستند و غول جستجو به دنبال محدود کردن گنجاندن محتوای طنز یا طنز است.
همراه با اقدامات جدید برای بهبود نمای کلی هوش مصنوعی، گوگل بیان می‌کند که نظرات کاربران و گزارش‌های خارجی را زیر نظر داشته است و در مورد تعداد کمی از خلاصه‌هایی که خط‌مشی‌های محتوای Google را نقض می‌کنند، اقدام کرده است. این امر به ندرت اتفاق می افتد – به گفته گوگل در کمتر از یک در هفت میلیون جستجوی منحصر به فرد – و اکنون در حال بررسی است.
آخرین دلیلی که گوگل برای این که چرا AI Overviews به این شکل عمل می کند، بیان می کند، تنها حجم عظیم میلیاردها پرس و جو است که هر روز در جستجو انجام می شود. نمی‌توانم بگویم که گوگل را برای این موضوع مقصر می‌دانم، و امیدوارم آنها آزمایش‌هایی را که روی AI Overviews انجام می‌دهند، حتی با ادامه توسعه این ویژگی افزایش دهند.
در مورد نمایه‌های هوش مصنوعی که طعنه را درک نمی‌کنند، ممکن است در ابتدا به نظر غیرفعال به نظر برسد، اما طعنه و طنز به طور کلی تفاوت ظریفی در ارتباطات انسانی است که من تصور می‌کنم توضیح آن دشوار است. کمدی به خودی خود یک هنر کامل است، و این یک منطقه بسیار خاردار و دشوار برای پیمایش خواهد بود. بنابراین، می‌توانم درک کنم که این یک تعهد بزرگ است، اما اگر گوگل می‌خواهد اعتبار خود را برای دقت حفظ کند، زیرا این ویژگی جدید را ارائه می‌کند – این چیزی است که باید به آن پرداخته شود.
ما فقط باید ببینیم که مرورهای هوش مصنوعی گوگل پس از معرفی مجدد چگونه کار می کنند – و شما می توانید شرط ببندید که افراد زیادی به دقت تماشا می کنند (و جستجوهای احمقانه تری را در تلاش برای دریافت آن اسکرین شات ویروسی راه اندازی می کنند).