از هوش مصنوعی بترسیم یا نه؟

«مکس تگمارک» (Max Tegmark)، فیزیکدان و متخصص هوش مصنوعی دانشگاه «ام‌آی‌تی» (MIT)، پیش‌بینی نگران‌کننده‌ای را در مورد آینده ما در این سیاره ارائه کرده است. به گفته این استاد دانشگاه، تاریخ نشان داده است که باهوش‌ترین گونه‌های زمین یعنی انسان‌ها، مسئول مرگ‌های کوچک‌تر مانند «دودو» (دودو) هستند. بنابراین، اگر مصنوعی از انسان ها باهوش تر شود، همان سرنوشت در انتظار ما خواهد بود.

پروفسور واچر گفت که در نامه یک فانتزی علمی-تخیلی مطرح شده و آن را با فیلم ترمیناتور مقایسه کرد. وی افزود: خطراتی وجود دارند که جدی هستند اما همه را به خود جلب نمی‌کنند. آنچه در مورد این نامه سرگشاده جدید می‌بینیم، یک فانتزی علمی-تخیلی است که همین حالا به مشکلات اصلی پیرامون تعصب، تبعیض و زیست محیطی منحرف می‌کند.

تگمارک یکی از امضاکنندگان بیانیه‌ای است که به تازگی منتشر شده و در مورد خطرات ناشی از هوش مصنوعی هشدار می‌دهد. این بیانیه که اخیرا توسط «مرکز ایمنی مصنوعی مصنوعی» (Centre for AI Safety) مستقر در سن‌فرانسیسکو منتشر شد و به امضای ده‌ها متخصص از جمله پیشگامان هوش مصنوعی رسید، هشدار داده است که هوش مصنوعی می‌تواند بشریت را از بین ببرد.

اپلیکیشن‌های هوش مصنوعی در فضای مجازی به ‌طور آنلاین منتشر شده‌اند و کاربران، تصاویر جعلی افراد مشهور و سیاستمداران را منتشر می‌کنند. دانشجویان همچنین از Chat GPT و سایر مدل‌های زبانی، برای نوشتن مقاله‌های دانشگاهی استفاده می‌کنند، اما با استفاده از روش‌های مصنوعی می‌توان از آن‌ها جلوگیری کرد. ارائه دهنده.

با وجود ادعاهای مطرح شده توسط تگمارک، برخی از دانشمندان چنین تهدیدهایی را باور نمی‌کنند. یک استاد «دانشگاه آکسفورد» باور دارد که احتمال یک سناریوی ناشی از هوش مصنوعی مشابه فیلم «ترمیناتور»(Terminator)، نزدیک به صفر است. «ساندرا واچر»(Sandra Wachter) استاد فناوری و مقررات، نامه‌ی مرکز ایمنی هوش مصنوعی را یک شلیک تبلیغاتی نامید.

بخوان  مشکل جدید ویندوز 11 درایوهای USB شما را گروگان نگه می دارد

انتهای پیام



منبع

واچر علم فناوری کرد: آنچه اکنون در مورد می‌دانیم، این است که احتمال انقراض انسان توسط هوش مصنوعی، نزدیک به صفر خواهد بود. مردم باید نگران چیزهای دیگری باشند.

وی افزود: یک دیدگاه دیگر، داشتن هوش مصنوعی به یک سگ کنترل انسان است اما ممکن است این نگرانی پیش بیاید که شاید ما انسانها آنقدر باهوش نباشیم که چنین قدرتی را کنترل کنیم.

به گزارش ایسنا و به نقل از دیلی میل، اگر هنوز از هوش مصنوعی نترسیده‌اید، شاید بهتر باشد صحبت‌های یک متخصص را بشنوید که 50 درصد احتمال دارد که مصنوعی، بشریت را از بین ببرد.

با توجه به پیشرفت چشمگیر و فزاینده هوش مصنوعی، برخی از احتمال انقراض بشر به دست این فناوری صحبت کرده‌اند اما برخی دیگر معتقدند که بیان چنین ترس‌هایی فقط یک روش تبلیغاتی برای جذب بودجه است و انسان‌ها باید به فکر مشکلات مهم‌تری باشند.

مرکز ایمنی مصنوعی، یک سازمان غیرانتفاعی است که هدف از خطرات ناشی از هوش مصنوعی را در نتیجه اجتماعی دنبال می‌کند. در بیانیه این مرکز آمده است: کاهش خطرات ناشی از هوش مصنوعی در کنار پرداختن به سایر خطرات اجتماعی مانند بیماری‌های همه‌گیر و جنگ هسته‌ای، یک اولویت جهانی باشد.

واچر ادامه داد: همه بحث بر سر چیزی است که شاید در چند صد سال رخ دهد یا رخ ندهد. ‌شما نمی‌توانید کار معناداری را در آن انجام دهید، زیرا در آینده بسیار دوری است اما تعبیر و تبعیض یا تأثیر زیست‌محیطی را می‌توان انجام داد. این فقط یک تبلیغات شیرین کاری است که بودجه را جذب می کند.

بخوان  ترفند جدید هکر‌ها استفاده از یوتیوب است

از هوش مصنوعی بترسیم یا نه؟

تگمارک در سال ۲۰۱۸ هشدار داد که انسان‌ها روزی ممکن است ماشین‌های هوشمند ساخت خود شوند. او حتی در آن زمان ادعا می کند که برخی از همکارانش ممکن است از انقراض گونه ها توسط هوش مصنوعی برخورد کنند و آنها را به عنوان فرزندان طبیعی خود در نظر می گیرند.

علاوه بر این، ما نمی‌دانیم که مرگ ما به دست هوش مصنوعی چه زمانی رخ خواهد داد زیرا گونه‌هایی با هوش کمتر از این فناوری، برای دانستن نخواهند داشت. تگمارک گفت: حدود نیمی از دیگر گونه‌های روی زمین توسط انسانها نابود شده‌اند. از آنجا که ما باهوش‌تر بودیم، آنها کنترلی بر این موضوع نداشتند. چیزی که ما اکنون در مورد آن هشدار می‌دهیم، این است که اگر ما انسانها جامعه خود را به ماشین‌هایی که بسیار باهوش‌تر از ما هستند، کنترل می‌کنند، آنگاه همه چیز می‌تواند به اندازه ما باشد.

برخی از دانشمندان برتر جهان باور دارند که در آینده‌ای نزدیک می‌توانند از هوش مصنوعی برای ساخت سلاح‌های خودکار یا ربات‌هایی استفاده کنند که با یا بدون انسان انسان را می‌سازند. حتی یک نرم‌افزار هوش مصنوعی به ظاهر بیخطر نیز اگر با دقت برنامه‌ریزی شود، می‌توان تصمیم گرفت که برای انسان کشنده باشد.

نترسید، «ترمیناتور» به حقیقت نمی‌پیوند!