همراه با تظاهرات چشمگیر و صداهای هشداری که با طلوع چت ربات‌های متن تولیدی به گوش می‌رسد، اکنون شاهد تحقق برخی از نتایج مشکوک‌تر و شاید کمتر مطلوب هستیم.
نویسندگان و چندین رسانه خبری اخیراً افزایش قابل توجهی را در کتاب‌های تولید شده توسط هوش مصنوعی گزارش کرده‌اند که در فهرست‌های پرفروش متعددی دیده می‌شوند، که بسیاری از آنها ظاهراً مزخرف به نظر می‌رسند.
انتشار خود، مانند برنامه Kindle Direct آمازون، راهی برای بسیاری از نویسندگان واقعی شده است تا آثار خود را بدون کمک یک ناشر بزرگ به عموم مردم بیاورند و طرفدارانی ایجاد کنند. از آنجایی که ثبت نام در این قابلیت‌های خود-انتشاری عمداً آسان است، به نظر می‌رسد هر کسی می‌تواند کتاب‌های بی‌پایانی نوشته شده با هوش مصنوعی تولید کند و آنها را برای فروش در فروشگاه کتاب الکترونیکی آمازون آپلود کند و آنها را برای خواندن از طریق Kindle Unlimited در دسترس قرار دهد.
اخیراً، یک نویسنده مستقل، کیتلین لینچ، در توئیتی متوجه شد که تنها 19 مورد از پرفروش‌ترین کتاب‌های الکترونیکی عاشقانه معاصر نوجوانان و جوانان در جدول 100 کتاب برتر آمازون، کتاب‌های واقعی و قانونی هستند. بقیه بی معنی و نامنسجم بودند و ظاهراً توسط هوش مصنوعی تولید شده بودند.
ربات‌های هوش مصنوعی آمازون را شکسته‌اند. به جدول 100 برتر کتاب‌های الکترونیکی عاشقانه معاصر نوجوانان و جوانان پرفروش نگاهی بیندازید. من می‌توانم 19 کتاب واقعی را ببینم. بقیه واضح است که هوش مصنوعی مزخرف هستند تا روی farm کلیک کنید. @AmazonKDP در مورد آن چه می کنید؟ pic.twitter.com/cziuKcQrq326 ژوئن 2023
وب‌سایت Motherload بعداً ده‌ها کتاب را در این پلتفرم بررسی کرد و دید که چند روز پس از توییت‌های لینچ، کتاب‌های هوش مصنوعی از فهرست پرفروش‌ها ناپدید شده‌اند که احتمالاً توسط آمازون حذف شده‌اند.
با این حال، آنها هنوز برای خرید در دسترس بودند و قبل از ناپدید شدن، از دید قابل توجهی برخوردار بودند. همچنین، همانطور که لینچ به طور کاملا قابل درک حدس می‌زند، آپلود انبوه کتاب‌های تولید شده توسط هوش مصنوعی می‌تواند برای تسهیل کشاورزی کلیکی مورد استفاده قرار گیرد، جایی که «ربات‌ها» به طور خودکار روی کتاب کلیک می‌کنند و حق امتیازی از Amazon Kindle Unlimited ایجاد می‌کند، که بر اساس تعداد صفحات به نویسندگان پرداخت می‌کند. که در کتاب الکترونیکی خوانده می شوند. بنابراین، مهم نیست که این کتاب ها ناپدید شوند. افرادی که چنین طرحی را اجرا می‌کنند، می‌توانند هر تعداد که دوست دارند آپلود کنند تا جایگزین طرح‌های حذف شده شوند.
یک نگرانی عمده به سرعت هم برای نویسندگان و هم برای خوانندگان پدیدار می شود – اکثر ما خوانندگان به دنبال کتاب هایی هستیم که حداقل در حال حاضر توسط نویسندگان انسانی نوشته شده اند و این امر یافتن این نوع کتاب ها را سخت تر می کند. لینچ، توضیحاتی در مورد دیدگاه های خود در یک موضوع توییتر ارائه می دهد، تاکید کرد که اگر آمازون نتواند این مورد را کنترل کند، “… ناقوس مرگ برای Kindle Unlimited خواهد بود”.
آمازون در مورد آن چه می کند؟
مادربرد با آمازون تماس گرفت و پاسخی دریافت کرد که بیان می‌کرد «دستورالعمل‌های واضحی» دارد که کتاب‌ها را می‌توان برای فروش فهرست کرد و برای محافظت از خوانندگان و نویسندگان، وقتی نگرانی‌هایی مطرح شد، بررسی می‌کند. این به صراحت اعلام نکرده است که به طور خاص تلاش می کند تا به آپلود دائمی ظاهری هرزنامه مانند کتاب های بی معنی و نامنسجم تولید شده توسط هوش مصنوعی رسیدگی کند. ارزش دارد آمازون رویکردی فعال برای اصلاح این مشکل اتخاذ کند تا به خوانندگان اطمینان دهد که ارزش ادامه حمایت از نویسندگان را از طریق فروش کتاب الکترونیکی و بازدید از صفحه (که منجر به حق امتیاز برای نویسندگان در Kindle Unlimited می‌شود) دارد و به نویسندگان اطمینان می‌دهد که ارزش گذاشتن آثارشان را دارد. در فروش در آمازون
ما همچنین با آمازون تماس گرفته‌ایم تا بدانیم در این مورد چه می‌کند، و پس از شنیدن این خبر، این داستان را به‌روزرسانی خواهیم کرد.
کتاب‌های تولید شده با هوش مصنوعی کاملاً جدید نیستند و پس از معرفی ابزارهای هوش مصنوعی تولیدکننده متن و تصویر مانند ChatGPT و Midjourney به سرعت دنبال شدند. این کتاب‌ها قبلاً بحث‌برانگیز بودند، زیرا بسیاری از هنرمندان و نویسندگان احساس می‌کردند که چنین کتاب‌های تولید شده کاری را که برای گردآوری، نوشتن و انتشار یک کتاب لازم است، تحقیر می‌کنند.
علاوه بر این، تولیدکنندگان هوش مصنوعی با حذف مقادیر عظیمی از محتوای بصری و متنی از اینترنت کار می‌کنند – که برخی از آنها هرگز سازندگان این محتوا با آن موافقت نکردند.
هجوم انبوه فهرست های پرفروش با کتاب های مزخرف تنها نگرانی های مربوط به کنترل کیفیت و اصالت را تشدید می کند. مشخص نیست چرا کتاب‌های تولید شده توسط هوش مصنوعی در فهرست‌های پرفروش ظاهر می‌شوند، این رونق وجود دارد، اما بسیاری گمان می‌کنند که این رونق به دلیل کشاورزی رباتی است، جایی که مقادیر زیادی کتاب به طور خودکار تولید و منتشر می‌شود. به نظر من، اگر چنین باشد، قطعاً بر عهده آمازون است که به این مشکل رسیدگی کند، زیرا نویسندگان و خوانندگان توانایی‌های فنی برای مقابله با چنین عملیاتی را ندارند.
نه فقط در مورد سرقت ادبی
کریس کاول، یک توسعه دهنده نرم افزار، با واشنگتن پست در مورد چنین موردی صحبت کرد که یک هوش مصنوعی کار او را سرقت علمی کرده بود، که در آمازون فروخته شد. هوش مصنوعی همچنان از نویسندگان انسانی کار می‌گیرد، که نگرانی‌هایی را در مورد سرقت ادبی و نقض حق نسخه‌برداری ایجاد می‌کند، اما موضوع تولیدکننده‌های متن هوش مصنوعی نیز وجود دارد که اطلاعات نادرست را بیرون می‌دهند.
این می تواند منجر به این شود که یک کتاب نوشته شده با هوش مصنوعی با استفاده از متن کتاب نوشته شده با هوش مصنوعی دیگر، بدون هیچ گونه بررسی واقعیت، و (به ویژه در نمونه کتاب های غیرداستانی)، یک حلقه بازخورد نگران کننده ایجاد شود که اطلاعات نادرست را منتشر می کند و آن را ایجاد می کند. تعیین منشأ عبارات دشوار است.
در حال حاضر، شاید آمازون روند حذف محتوای مزخرف تولید شده توسط هوش مصنوعی را همانطور که به نظر می رسد بهینه کند، اما تلاش های بیشتری لازم است. از می 2023، انتشارات کیندل آمازون، فروشندگان را ملزم به افشای اینکه آیا کتاب با کمک تولیدکنندگان هوش مصنوعی مانند ChatGPT یا Midjourney نوشته شده (یا مصور) شده است، نبود.
همچنین یک مشکل بزرگ وجود دارد که همچنان گریبانگیر آمازون و سایر بازارهای آنلاین برای تعداد زیادی از محصولات است و کتاب ها نیز از این قاعده مستثنی نیستند: بررسی های جعلی. تولیدکننده‌های هوش مصنوعی متنی با آسان‌تر کردن سیل بخش بررسی هم از نظر محتوا و هم از نظر کمیت، این وضعیت را بدتر می‌کنند. با نزدیک شدن به Prime Day، مطمئن شوید که راهنمای ما را در مورد نحوه تشخیص نظرات جعلی در آمازون بررسی کنید.
متأسفانه، در کنار همه چیزهای جدید مثبتی که با ژنراتورهای هوش مصنوعی امکان پذیر است، به ناچار می توان از آنها نیز سوء استفاده کرد. امیدواریم، آمازون نگرانی‌های فزاینده‌ای را که هم از سوی نویسندگان و هم از خوانندگان ایجاد می‌شود، تصدیق کند و تلاش‌هایی انجام دهد که به ایجاد سابقه‌ای برای حفاظت از آثار خلق‌شده توسط انسان – و مخاطبان آنها کمک کند.