تقریباً یک دهه پیش، دکتر جفری هینتون، برنده جایزه تورینگ و کارمند سابق گوگل، با شور و شوق در میان دانش‌آموزان هوش مصنوعی خود می‌گفت: “من می‌دانم اکنون مغز چگونه کار می‌کند!” با این حال، اکنون “پدرخوانده هوش مصنوعی” گوگل را ترک کرده است — و او بیشتر مستعد شنیدن صدای زنگ هشدار هوش مصنوعی است.
در یک خروج از مصاحبه با مجله نیویورک تایمز (در برگه جدید باز می شود)، هینتون نگرانی عمیق خود را در مورد گسترش سریع هوش مصنوعی ابراز کرد و گفت: «به سختی می توان دید که چگونه می توان از استفاده بازیگران بد از آن برای کارهای بد جلوگیری کرد.»
یک خط مستقیم، دهه‌ها کار پیشگام هینتون در شبکه‌های عصبی را به چت ربات‌های امروزی (ChatGPT، Google Bard، Bing AI) متصل می‌کند. پیشرفت‌های او بیش از یک دهه پیش باعث شد تا گوگل او را برای توسعه سیستم‌های یادگیری عمیق نسل بعدی که می‌تواند به رایانه‌ها کمک کند تصاویر، متن و گفتار را به همان روشی که انسان‌ها انجام می‌دهند، تفسیر کند، وارد کند.
در صحبت با Wعصبانی در سال 2014 (در برگه جدید باز می شود)شور و شوق هینتون واضح بود: “وقتی راهی برای بهبود شبکه های عصبی کشف می کنیم – و زمانی که ارتباط نزدیکی با نحوه عملکرد مغز دارد، بسیار هیجان زده می شوم.”
هینتون بسیار متفاوت با او صحبت کرد مجله نیویورک تایمز (در برگه جدید باز می شود) در این هفته، تمام راه‌هایی را که هوش مصنوعی می‌تواند بشریت را از ریل خارج کند، ترسیم کند. در اینجا نکات کلیدی آورده شده است:
عجله برای رقابت به این معنی است که نرده های محافظ از بین می روند
دکتر هینتون گفت، در حالی که شرکت‌هایی مانند مایکروسافت، گوگل و OpenAI اغلب اظهار می‌کنند که رویکردی کند و محتاطانه برای توسعه هوش مصنوعی و استقرار ربات‌های گفتگو دارند. مجله نیویورک تایمز که او نگران است واقعیت این است که افزایش رقابت منجر به رویکردی کمتر محتاطانه می شود. و او کاملاً درست می‌گوید: اوایل امسال شاهد بودیم که گوگل با عجله یک Bard آماده برای بهترین زمان را برای مواجهه با ظاهر شگفت‌انگیز هوش مصنوعی Bing مایکروسافت با ChatGPT تولید کرد.
آیا این شرکت‌ها می‌توانند یک الزام بازار برای جلوتر ماندن از رقبا (مثلاً گوگل در رتبه اول در جستجو باقی بماند) با کالاهای بیشتر متعادل کنند؟ دکتر هینتون اکنون متقاعد نشده است.
از دست دادن حقیقت
دکتر هینتون نگران تکثیر هوش مصنوعی است که منجر به سیل محتوای آنلاین جعلی می شود. البته، این کمتر یک نگرانی آینده است تا یک نگرانی واقعی، زیرا مردم اکنون مرتباً فریب موسیقی هوش مصنوعی را می خورند. هدایای آوازی استادان را جعلی می کند (از جمله مردگان) تصاویر خبری هوش مصنوعی (در برگه جدید باز می شود) به عنوان تصاویر واقعی و مولد تلقی می شوند برنده شدن در مسابقات عکاسی (در برگه جدید باز می شود). با قدرت و فراگیر شدن جعلی‌های عمیق، تعداد کمی از ویدئوهایی که امروز تماشا می‌کنیم را می‌توان به‌عنوان واقعی دریافت کرد.
با این حال، ممکن است دکتر هینتون درست بگوید که این تازه آغاز راه است. تا زمانی که گوگل، مایکروسافت، OpenAI و دیگران کاری در مورد آن انجام ندهند، نمی توانیم به هر چیزی که می بینیم یا حتی می شنویم اعتماد کنیم.
بازار کار ویران شده
دکتر هینتون هشدار داد زمان که هوش مصنوعی قرار است بیش از وظایفی را که ما نمی‌خواهیم انجام دهیم، انجام دهد.
بسیاری از ما از ChatBots مانند Bard و ChatGPT برای نوشتن ارائه ها، پیشنهادات و حتی برنامه نویسی استفاده کرده ایم. بیشتر خروجی برای پرایم تایم آماده نیست، اما بخشی از آن حداقل قابل عبور است یا قابل عبور است.
در حال حاضر وجود دارد ده ها رمان تولید شده توسط هوش مصنوعی برای فروش در آمازون، و اتحادیه فیلمنامه نویسان (انجمن نویسندگان آمریکا) در ایالات متحده ابراز نگرانی کرده است که اگر آنها بر سر یک قرارداد جدید به توافق نرسند، استودیوها ممکن است مشاغل خود را به هوش مصنوعی برون سپاری می کنند. و در حالی که اخراج های گسترده ای که مستقیماً با هوش مصنوعی مرتبط باشد وجود نداشته است، رشد این ابزارهای قدرتمند باعث شده است که برخی از در مورد نیروی کار خود تجدید نظر کنند.
رفتار غیر منتظره و ناخواسته
یکی از ویژگی‌های شبکه‌های عصبی و هوش مصنوعی یادگیری عمیق این است که می‌تواند از داده‌های وسیعی برای آموزش خود استفاده کند. یکی از پیامدهای ناخواسته این قدرت مغز انسان این است که هوش مصنوعی می تواند درس هایی را بیاموزد که هرگز پیش بینی نمی کردید. یک هوش مصنوعی خود تعیین کننده ممکن است در این درس ها هوش مصنوعی داشته باشد. دکتر هینتون گفت هوش مصنوعی که نه تنها می تواند برنامه نویسی کند بلکه می تواند برنامه نویسی خود را اجرا کند، بسیار نگران کننده است، به خصوص که به نتایج ناخواسته مربوط می شود.
هوش مصنوعی از ما هوشمند خواهد بود
هوش مصنوعی کنونی اغلب باهوش‌تر از انسان‌ها به نظر می‌رسد، اما با گرایش به توهمات و حقایق ساخته‌شده، با بزرگ‌ترین ذهن‌های ما همخوانی ندارد. دکتر هینتون معتقد است روزی که هوش مصنوعی از ما پیشی می‌گیرد به سرعت نزدیک می‌شود، و مطمئناً سریع‌تر از آن چیزی که در ابتدا پیش‌بینی می‌کرد.
هوش مصنوعی ممکن است بتواند همدلی را جعل کند – آزمایش اخیر آن را ببینید منبعی برای مشاوره پزشکی (در برگه جدید باز می شود) – اما این همان همدلی واقعی انسانی نیست. سیستم‌های فوق‌هوشمندی که می‌توانند همه چیز را بفهمند، اما بدون در نظر گرفتن اینکه چگونه انتخاب‌هایشان ممکن است بر انسان تأثیر بگذارد، بسیار نگران‌کننده است.
در حالی که هشدارهای دکتر هینتون کاملاً در تضاد با اشتیاق اولیه او برای بخش فناوری است که او اختراع کرده است، چیزی که او گفته است. سیمی در مورد کار بر روی سیستم‌های هوش مصنوعی تقلید از مغز انسان در سال 2014، اکنون به‌طور عجیبی پیش‌بینی‌کننده به نظر می‌رسد: “ما دیگر حاشیه دیوانه نبودیم. ما اکنون هسته دیوانه هستیم.”