احتمال وقوع فاجعه‌های مشابه چرنوبیل در عرصه هوش مصنوعی

توسعه فناوری‌های مصنوعی را به ساخت نیروگاه هسته‌ای تشبیه کرده و گفته است، درست است که می‌توان یک نیروگاه را نشان داد که می‌تواند در برابر مقاومت مقاومت کند و مکانیسم‌های ایمنی در آن وجود داشته باشد، دستورالعمل‌های معقول نیز تضمین می‌کنند که فناوری‌های هوشمندی که به آن‌ها کمک می‌کند. سرعت در حال توسعه است به ایجاد «چرنوبیل در دنیای هوش مصنوعی» نمی‌شود.

استوارت راسل(Stuart Russell)، دانشمند مشهور رایانه در دانشگاه برکلی، نسبت به عواقب ناگوار این فناوری در صورت عدم کنترل توسعه هوش مصنوعی هشدار داده شده است. راسل یکی از برجسته‌های است که نامه‌های را امضا می‌کنند که به دنبال توقف توسعه محصولات بر روی هوش مصنوعی طی شش ماه آینده بود.

انتهای پیام



منبع

به گزارش ایسنا و به نقل از آی‌ای، توسعه هوش مصنوعی در عرصه‌ی فناوری جالب اما در عین حال ترسناک است.

باور این واقعیت مصنوعی چت جی‌پی‌تی(ChatGPT) تنها چند ماه است که وارد زندگی ما شده، سخت است. در حالی که مصنوعی در گذشته موضوع مورد بحث در میان گروه کوچکی از رایانه‌های شخصی بود، چت‌بات‌ها به موضوع اصلی بحث و گفتگو در رسانه‌ها تبدیل می‌شوند. آن‌ها با استفاده گسترده از محصولات مورد استفاده در زندگی روزمره، از برنامه‌های کاربردی رایانه‌های گرفته شده تا حتی مراقبت‌های بهداشتی مرتبط هستند.

راسل در گفتگو با رسانه‌ی «Business Today»، بر نیاز به اعمال دستورالعمل‌های معقول و ایمنی برای تضمین توسعه ایمان این فناوری تاکید کرده است. راسل که به مدت 45 سال در این زمینه فعالیت می‌کند که برای ساخت زمان‌های مصنوعی طراحی شده است، اما اگر می‌خواهم فناوری هوش مصنوعی آینده عواقب فاجعه‌باری نباشد، الزامی است.

بخوان  WhatsApp قطع است و پیام‌ها ارسال نمی‌شوند - این چیزی است که ما می‌دانیم

یک چرنوبیل برای هوش مصنوعی

یک محقق هشدار می‌دهد که اگر در مورد هوشیاری‌های امنیتی، وضعیتی مشابه فاجعه‌ای چرنوبیل رخ دهد، نخواهد داد.

راسل، علوم رایانه و یکی از استادان برجسته در زمینه‌های هوش مصنوعی و ماشینی است و متن «هوش مصنوعی: فن‌آوری مدرن» را که یکی از معتبرترین متون امروزی در زمینه‌های مصنوعی مصنوعی است، نوشته است.

راسل حتی با وجود خود تجربه بی‌نظیر، پیش‌بینی دقیق رویدادی مشابه چرنوبیل در عرصه‌ی هوش مصنوعی را چالش برانگیز می‌دانست، اما خواستار احتیاط در هنگام توسعه محصولات جدید بود. این استاد دانشگاه کالیفرنیا برکلی همچنین به عقل سلیم می‌گوید هنگام توسعه سیستم‌های هوش مصنوعی جدید، باعث ایجاد این سیستم‌ها در جامعه نمی‌شود.

یک ابزار همه کاره می‌تواند کاربردهای بی‌شماری داشته باشد که بهره‌وری کارمندان را افزایش داده و زندگی را برای بسیار آسان‌تر کند. با این حال، جنبه تاریک‌تری نیز وجود دارد و آن ترس از دست دادن شغل و انتشار نادرست است. برخی از ابزارهای هوش مصنوعی هشدار داده‌اند که مضرات آن‌ها بسیار بیشتر از آن‌هایی است که می‌توان با استفاده از آن به دست آورد، بنابراین، ما باید توسعه را انجام دهیم.