خیلی از ایرادات در سیستم موجود باعث میشود که کمتر قابل اعتماد باشد.
ولز افزودن، یکی از موارد استفاده از هوش مصنوعی میتواند از یک مدل زبان بزرگ (LLM) مانند GPT برای مقایسه مقاله، جستجوی نکاتی که با ترکیب متنها وجود دارد و استفاده از یافتههای آن برای شناسایی مطالبی باشد که داوطلبان انسانی ویکیپدیا ممکن است وجود داشته باشد. به آن نیاز داشته باشند.
آیا رباتهای گفتگوگر هوش مصنوعی میتواند جایگزین نویسندگان ویکیپدیا شود و برای آن تولیدکننده معتبر باشد؟ جیمی ولز یکی از بنیانگذاران ویکیپدیا امیدوار است که رباتهای هوش مصنوعی به رفع شکافهای اطلاعاتی موجود در این بزرگترین دایره المعارف تاریخ بشر کمک کنند.
به گزارش ایسنا، مدلهای زبانی که توسط هوش مصنوعی طراحی شده و سرآمد آنها مدل هوش مصنوعی ChatGPT است، به فناوری حوزه فناوری را متحول کردهاند.
ولز نگران است که از LLMها برای گسترش منبع میتوان به مسائل مربوط به سوگیری سیستماتیک و ناخودآگاه ویکیپدیا کمک کند یا آن را تشدید کند. آنچه گفته شد این منبع در حال حاضر توسط داوطلبانی نوشته و حراست میشود که اکثریت قریب به اتفاق آنها مردان سفیدپوست هستند، بنابراین موضوعاتی هستند که مورد علاقه این گروه نیستند، نادیدهها و موضوعات دیگر را از منظر خاص پوشش میدهند.
ChatGPT به صراحت به گونههای طراحی شده است تا دیدگاههای خود را در مورد موضوعات داشته باشد، اما مشکلات سوگیری خاص را دارد که در آموزش آن نهفته است.
سیستمهای مجهز به هوش مصنوعی میتوانند با تجزیه و تحلیل اطلاعات موجود، سوگیریهای ذاتی را حل و فصل کنند.
چنین تمرینی بسیار زیاد است، اما جیمی ولز نگران آن نیست، چرا که به گفته وی، از هوش مصنوعی برای سه برابر کردن تعداد ورودیهای ویکیپدیا، هزینههای جاری موسسه را بیش از 100 پوند در سال افزایش نمیدهد.
رواج دیوانهوار چت جیپیتی اشتباهات مکرر و جدی آن، بنیان ویکیپدیا را وادار کرده است که به طور جدی به این فکر میکند که چگونه هوش مصنوعی میتواند از جریان کار در بزرگترین و پرخوانندهترین مرجع دبیره المعارف در تاریخ بشریت را بر عهده بگیرد.
تیم ویکیپدیا در مورد عملکرد «توهمآمیز» این چتباتهای هوش مصنوعی و پاسخهای آن اظهار نظر کرده است. آنها میگویند چتباتها میتوانند چیزهایی را از خود در بیاورند که برای ویکیپدیا واقعاً بد است. این درست نیست. ما باید واقعاً مراقب این موضوع باشیم.
وی میگوید، حتی اگر آزادی کامل برای سیستمهای هوش مصنوعی برای تولید اطلاعات در حال حاضر غیرممکن است، تیم ما در حال بررسی این موضوع است که چگونه این فناوری میتواند محتوا را با دیرهعارف بهبود بخشد.
این شاهکار تولیدی شرکت توسعه هوش مصنوعی OpenAI به تلاش رهبران بازار مانند گوگل و مایکروسافت برای انتشار نسخه های چت خود برای کاربران و سرمایه گذاری های چند میلیارد دلاری است.
انتهای پیام
وی در یک مصاحبه برخی از چالشهای فناوری در این مورد به ویژه آن را به «توهم» یا خود از درآوردن مطالب رای مورد بررسی قرار داده و بینش خود را در مورد چگونگی ساخت بزرگترین مخزن آنلاین اطلاعات در آینده بیان کرده است.
ولز همچنین نگران ناتوانی این فناوری در شناسایی یا تشخیص تناقضات درونی در پاسخهای آن است.
چنین برنامههایی، هوش مصنوعی را برای مردم در انجام کارهای روزانه مانند نوشتن، ترجمه، کدنویسی و موارد دیگر، همه از روشهای مبتنی بر پرسش و پاسخ در قرار دادن دادهاند.
بنیانگذار ویکیپدیا در استفاده از ابزار مصنوعی در حل چنین مشکلی مشکلی دارد. وی میگوید: ما میدانیم که بسیاری از کارهای مصنوعی خیلی سریع با سوگیری میشوند، زیرا اگر مصنوعی را بر روی دادههای جانبدارانه آموزش میدهیم، آنگاه آن سوگیری را دنبال میکند.
اکنون جیمی ولز(Jimmy Wales) یکی از بنیانگذاران ویکیپدیا، آیندههای را متصور است که در آن اپلیکیشنهایی مانند ChatGPT میتوانند جایگزین نویسندگان برای تولید مکتوب آنلاین به صورت انبوه و در دسترس شوند.
ویکیپدیا(ویکیپدیا) مؤسسهای است که توسط نویسندگان داوطلب به تعداد میلیونها نفر اداره میشود. این دایره المعارف همیشه به دلیل وجود سوگیری و تعصب در توضیحات و موضوعات مختلف در مورد انتقادات قرار میگیرد که این مشکل با مشارکت مشارکتکنندگان آنها که بیشتر مرد و سفید پوست هستند، مرتبط میشوند.
بینانگذار ویکیپدیا ادامه داد: من فکر میکنم ما هنوز خیلی از این دور هستیم که به ChatGPT بگویم لطفاً یک معرفی در ویکیپدیا در ساختمان امپایر استیت بنویسید. در حال حاضر نمیدانم دقیقاً چقدر با آن فاصله داریم، اما مطمئن هستم که چه چیزی را دو سال پیش میاندیشم به آن نزدیکتر هستیم.
وی میافزاید، یکی از سناریوهای ممکن است که هوش مصنوعی تمام شکافهای موجود در ویکیپدیا را جستجو کند و بیابد، صفحات بالقوه مفیدی ایجاد کند که هرگز نوشته نشده و برای ایجاد خلاصه مطالب جستجو کند.
وی میگوید: ما میدانیم مدلهای موجود به اندازه کافی خوب هستند، اما جالب هستند، زیرا در این حوزه پتانسیل زیادی وجود دارد.
وی افزود: با حال، تیم ما خوشبین است که چنین سیستمهایی این پوشش را با تجزیه و تحلیل تمام اطلاعات آنلاین ممکن است در مورد یک موضوع و بررسی متقابل آن با سایر ورودیها ایجادکننده و در نتیجه شکافها را ایجاد کنند.
ولز میگوید: اگر LLMها شروع به نوشتن یک مخزن دانش مرکزی مانند ویکیپدیا کنند، توهمات یا دروغهایی هستند که کشف نمیکنند مانند یک گلوله برفی میشوند و مردم از آن مطالب غیرواقعی در نوشتههای خود استفاده میکنند و هوش مصنوعیهای بعدی را با این غیرواقعیتها آموزش میدهند. که تصحیح آنها را در درازمدت میکند.