اکنون کاملاً ممکن به نظر می رسد که شرکت مادر ChatGPT، OpenAI، مشکل «ابر هوش» را حل کرده باشد و اکنون با پیامدهای آن برای بشریت دست و پنجه نرم می کند.
پس از اخراج OpenAI و استخدام مجدد سام آلتمن، یکی از بنیانگذاران و مدیر عامل آن، افشاگری در مورد آنچه که جرقه این حرکت را ایجاد کرد همچنان ادامه دارد. گزارش جدیدی در The Information حداقل اختلال داخلی یک پیشرفت چشمگیر هوش مصنوعی تولیدی را نشان می‌دهد که می‌تواند منجر به توسعه چیزی به نام «ابر هوش» در این دهه یا زودتر شود.
همانطور که ممکن است حدس زده باشید، ابر هوش، هوشی است که از بشریت پیشی گرفته است، و توسعه هوش مصنوعی که قادر به چنین هوشی بدون حفاظت مناسب باشد، طبیعتاً یک پرچم قرمز بزرگ است.
بر اساس اطلاعات، این موفقیت توسط دانشمند ارشد OpenAI (و پر از حسرت عضو هیئت مدیره) ایلیا سوتسکور.
این به هوش مصنوعی اجازه می دهد تا از داده های تمیزتر و تولید شده توسط رایانه برای حل مشکلاتی استفاده کند که هوش مصنوعی قبلاً ندیده است. این بدان معناست که هوش مصنوعی نه بر روی بسیاری از نسخه‌های مختلف یک مشکل، بلکه بر روی اطلاعاتی که مستقیماً با مشکل مرتبط نیست آموزش داده شده است. حل مسائل به این روش – معمولاً مسائل ریاضی یا علوم – نیاز به استدلال دارد. درست است، کاری که ما انجام می دهیم، نه هوش مصنوعی.
محصول اولیه OpenAI برای مصرف‌کننده، ChatGPT (با مدل زبان بزرگ GPT ارائه می‌شود [LLM]) ممکن است آنقدر هوشمندانه به نظر برسد که باید از عقل برای ساختن پاسخ های خود استفاده کند. با این حال، زمان کافی را با ChatGPT بگذرانید، و به زودی متوجه می شوید که آن چیزی است که از انبوهی از داده هایی که به آن داده شده است را دوباره جمع آوری می کند، و در مورد چگونگی ساخت جملاتی که منطقی هستند و برای درخواست شما کاربرد دارند حدس های دقیقی می زند. هیچ استدلالی در اینجا وجود ندارد.
با این حال، اطلاعات ادعا می کند که این پیشرفت – که آلتمن ممکن است به آن اشاره کرده باشد در یک کنفرانس اخیر، گفت: “در یک یادداشت شخصی، فقط در چند هفته گذشته، من در اتاق بودم، زمانی که ما به نوعی پرده جهل را به عقب برانیم و مرز کشف را به عقب برانیم. به جلو، “- موج شوک در سراسر OpenAI فرستاد.
مدیریت تهدید
در حالی که در حال حاضر هیچ نشانه‌ای از هوش فوق‌العاده در ChatGPT وجود ندارد، OpenAI مطمئناً در تلاش است تا بخشی از این قدرت را حداقل در برخی از محصولات برتر خود، مانند GPT-4 Turbo و آن عوامل ربات‌های گفتگوی GPT (و «عامل‌های هوشمند» آینده) ادغام کند. .
اتصال ابر هوش به اقدامات اخیر هیئت مدیره، که Sutskever در ابتدا از آن حمایت کرد، ممکن است طولانی باشد. ظاهراً این پیشرفت ماه ها پیش رخ داد و Sutskever و دانشمند OpenAI دیگر به نام Jan Leike را بر آن داشت تا یک گروه تحقیقاتی OpenAI جدید به نام ایجاد کنند. سوپرالایمنت با هدف توسعه پادمان های ابراطلاعاتی.
بله، چیزی که شنیدید درست است. شرکتی که بر روی توسعه ابرهوشی کار می کند، به طور همزمان در حال ساخت ابزارهایی برای محافظت از ما در برابر ابر هوش است. تصور کنید دکتر فرانکنشتاین روستاییان را به شعله‌افکن‌ها مجهز می‌کند، و شما این ایده را دریافت می‌کنید.
آنچه از این گزارش مشخص نیست این است که چگونه نگرانی‌های داخلی در مورد توسعه سریع ابراطلاعات احتمالاً باعث شلیک آلتمن شده است. شاید مهم نباشد.
در این نگارش، آلتمن در راه بازگشت به OpenAI است، هیئت مدیره از نو ساخته شده است، و کار برای ایجاد ابر هوش – و محافظت از ما در برابر آن – ادامه خواهد داشت.
اگر همه اینها گیج کننده است، پیشنهاد می کنم از ChatGPT بخواهید تا آن را برای شما توضیح دهد.