هینتون نگران است که هوش مصنوعی در کوتاه مدت میتواند از اطلاعاتدرست دامن بزند. وی میگوید: شاید دیگر نتوانید بدانید چه چیزی درست است. او همچنین نگران است که این فناوری نه تنها برخی از کارها را حذف کند، بلکه به طور کامل جایگزین برخی از کارها می شود.
انتهای پیام
منبع
در ادامه، این دانشآموز همچنین در مورد امکان توسعه سلاحهای کاملاً خودمختار و مدلهای هوش مصنوعی به رفتارهای عجیب و غریب از دادههای آموزشی نگران است. در حالی که برخی از این مسائل نظری هستند، هینتون از تشدید تنش میترسد که بدون وضع قوانین یا توسعه اقدامات کنترلی پیشرو خواهد آمد.
شایان ذکر است که هینتون در این موضوع، تنها نیست. جمعی از دانشگاهیان و افراد برجسته در این حوزه از جمله ایلان ماسک و استیو وزنیاک نیز اخیراً نامههای سرگشاده امضا کرده و منتشر کردهاند که در آن خواستار توقف شش ماهه توسعه هوش مصنوعی برای انجام مشکلات اخلاقی و ایمنی آنها هستند. با این حال، سخنان هینتون به عنوان یکی از برجستهترین چهرههای این صنعت، وزن قابل توجهی دارد.
هینتون عمر خود را وقف مطالعه شبکههای عصبی کرده است که مجموعه کلیدهای هوش مصنوعی هستند، اما به خاطر توسعه یک سیستم تشخیص اشیا در سال ۲۰۱۲ بیشتر میشود. شبکه عصبی موفق میتواند از تصاویر آموزشی برای کمک به تشخیص اشیای رایج استفاده کند.
جفری هینتون میگوید سال گذشته که شرکتهای گوگل، OpenAI و دیگران شروع به ایجاد سیستمهای مصنوعی کردند، موضع یا تغییر کرده است. هوش مصنوعی تنها در پنج سال گذشته به سرعت توسعه یافته است که به گفته پدرخوانده این حوزه، این «ترسناک» است که در پنج سال آینده چه اتفاقی میافتد.
به گزارش ایسنا و به نقل از انگجت، یکی از پیشگامان عرصه هوش مصنوعی، جفری هینتون ملقب به پدرخوانده مصنوعی به نیویورک تایمز گفته است که در ماه آوریل از معاونت و رئیس مهندسی گوگل استعفا داده تا آزادانه در مورد خطرات مرتبط با این فناوری هشدار دهد.
جفری هینتون که به پدرخوانده هوش مصنوعی مشهور است، به دلیل نگرانی از این که ابزارهای هوش مصنوعی را از آنها می گیرند و اطلاعات نادرست منتشر می کنند، از گوگل استعفا داد.
جف دانشمند ارشد گوگل در بیانیهای به انگجت گفته است که شرکت گوگل همچنان یک نظارت و مراقبت از خطرات فعلی ظهور متعهد است. این غول جستجوی اخیراً نسخهای از چتبات بارد خود را در ماه مارس و پس از ماهها شایعات مبنی بر اظهار نظر این شرکت در مورد خطر رقابتی هوش مصنوعی ارائه کرد.
این پژوهشگر نگران است که گوگل در تلاش برای رقابت با رباتهای هوش مصنوعی مانند ChatGPT، Bing Chat و مدلهای مشابه، فهرستها و موارد قبلی خود را برای توسعه هوش مصنوعی کنار بگذارد و برای مشکلات اخلاقی متعدد باز کند.
این در حالی است که پیش از آن، گوگل از انتشار عمومی مدلهای مصنوعی شبیه به دلیل وجود سمی و نقض حق چاپ خودداری کرده است.
گوگل در سال 2013 استارتاپ DNNresearch متعلق به هینتون را خرید کرد و مفهوم زیربنایی اختراع او به رشد موجی از توسعه کمک کرد که باعث ایجاد فناوری مصنوعی مصنوعی مولد امروزی شد.