پلتفرم منبع باز جدید هزینه های اجرای هوش مصنوعی را کاهش می دهد

محققان کرنل یک پلتفرم منبع باز جدید به نام منتشر کرده اند آبشار که می تواند مدل های هوش مصنوعی (AI) را به گونه ای اجرا کند که هزینه ها و هزینه های انرژی را کاهش دهد و در عین حال عملکرد را به طور چشمگیری بهبود بخشد.

Cascade برای تنظیماتی مانند تقاطع‌های ترافیکی هوشمند، تشخیص‌های پزشکی، سرویس‌دهی تجهیزات با استفاده از واقعیت افزوده، کشاورزی دیجیتال، شبکه‌های برق هوشمند و بازرسی خودکار محصول در حین ساخت طراحی شده است – موقعیت‌هایی که مدل‌های هوش مصنوعی باید در کسری از ثانیه واکنش نشان دهند. این در حال حاضر توسط محققان کالج دامپزشکی استفاده می شود که گاوها را از نظر خطر ابتلا به ورم پستان تحت نظر دارند.

با ظهور هوش مصنوعی، بسیاری از شرکت‌ها مشتاق به استفاده از قابلیت‌های جدید هستند، اما نگران هزینه‌های محاسباتی مرتبط و خطرات اشتراک‌گذاری داده‌های خصوصی با شرکت‌های هوش مصنوعی یا ارسال اطلاعات حساس به سرورهای ابری هستند که از طریق اینترنت قابل دسترسی هستند.

همچنین، مدل‌های هوش مصنوعی امروزی کند هستند و استفاده از آن‌ها را در تنظیماتی که داده‌ها باید به جلو و عقب منتقل شوند یا مدل در حال کنترل یک سیستم خودکار است، محدود می‌کند. تیمی به رهبری کن بیرمن، استاد علوم کامپیوتر در کالج علوم محاسباتی و اطلاعاتی کورنل آن اس.باورز، چندین نوآوری را برای رفع این نگرانی ها ترکیب کردند.

بیرمن با Weijia Song، یک همکار ارشد تحقیقاتی، برای توسعه یک سیستم محاسباتی لبه ای که آنها را Cascade نامیدند، شریک شد. محاسبات لبه رویکردی است که محاسبات و ذخیره داده ها را به منابع داده نزدیکتر می کند و از اطلاعات حساس محافظت می کند. طراحی محاسباتی لبه “کپی صفر” Song حرکت داده ها را به حداقل می رساند. به گفته محققان، مدل‌های هوش مصنوعی هنگام واکنش به یک رویداد، که پاسخ‌های سریع‌تری را ممکن می‌سازد، نیازی به صبر کردن برای دریافت داده ندارند.

بیرمن گفت: «Cascade کاربران را قادر می‌سازد تا یادگیری ماشینی و ترکیب داده‌ها را واقعاً نزدیک به لبه اینترنت قرار دهند، بنابراین اقدامات هوشمند مصنوعی می‌توانند فوراً انجام شوند. این در تضاد با روش‌های رایانش ابری استاندارد است، جایی که حرکت مکرر داده‌ها از ماشین به ماشین، همان هوش مصنوعی‌ها را مجبور می‌کند منتظر بمانند، که منجر به تاخیرهای طولانی قابل درک برای کاربر می‌شود.

Cascade نتایج چشمگیری می دهد، به طوری که اکثر برنامه ها دو تا 10 برابر سریعتر از برنامه های کاربردی مبتنی بر ابر اجرا می شوند و برخی از وظایف بینایی رایانه با فاکتورهای 20 یا بیشتر سرعت می گیرند. مدل های بزرگتر هوش مصنوعی بیشترین مزیت را دارند.

علاوه بر این، استفاده از این رویکرد آسان است: بیرمن گفت: “Cascade اغلب به هیچ تغییری در نرم افزار هوش مصنوعی نیاز ندارد.”

آلیسیا یانگ، دانشجوی دکترا در رشته علوم کامپیوتر، یکی از چندین محقق دانشجوی این تلاش بود. او Navigator، یک مدیر حافظه و برنامه‌ریز وظایف برای گردش‌های کاری هوش مصنوعی را توسعه داد که عملکرد را بیشتر افزایش می‌دهد. یانگ گفت: «Navigator زمانی که تعدادی از برنامه‌ها نیاز به اشتراک‌گذاری سخت‌افزار گران‌قیمت دارند، واقعاً نتیجه می‌دهد. در مقایسه با رویکردهای مبتنی بر ابر، Navigator همان کار را در زمان کمتری انجام می دهد و از سخت افزار بسیار کارآمدتر استفاده می کند.

در CVM، Parminder Basran، دانشیار پژوهشی انکولوژی پزشکی در گروه علوم بالینی، و Matthias Wieland، استادیار در گروه پزشکی جمعیت و علوم تشخیصی، از Cascade برای نظارت بر گاوهای شیری برای بررسی علائم افزایش ورم پستان استفاده می کنند. عفونت در غده پستانی که تولید شیر را کاهش می دهد.

با تصویربرداری از پستان هزاران گاو در طول هر جلسه شیردوشی و مقایسه عکس‌های جدید با عکس‌های شیردوشی‌های گذشته، یک مدل هوش مصنوعی که روی Cascade اجرا می‌شود، خشکی پوست، ضایعات باز، نوک پستانک خشن و سایر تغییراتی را که ممکن است نشانه بیماری باشد را شناسایی می‌کند. اگر علائم اولیه تشخیص داده شود، گاوها می توانند تحت شستشوی دارویی در ایستگاه شیردوشی قرار گیرند تا به طور بالقوه از عفونت کامل جلوگیری شود.

تیاگو گرت، محقق مهمان از دانشگاه اسلو، از Cascade برای ساخت نمونه اولیه “تقاطع ترافیک هوشمند” استفاده کرد. راه‌حل او تنظیمات شلوغ مملو از افراد، اتومبیل‌ها، دوچرخه‌ها و سایر اشیاء را ردیابی می‌کند، برخوردهای احتمالی را پیش‌بینی می‌کند و خطرات را در عرض میلی‌ثانیه پس از ثبت تصاویر هشدار می‌دهد. زمانی که او همان مدل هوش مصنوعی را در زیرساخت محاسبات ابری اجرا کرد، چند ثانیه طول کشید تا تصادفات احتمالی را تشخیص داد، اما برای به صدا درآمدن هشدار بسیار دیر بود.

با انتشار متن باز جدید، گروه بیرمن امیدوار است که سایر محققان کاربردهای احتمالی Cascade را بررسی کنند و برنامه های کاربردی هوش مصنوعی را به طور گسترده در دسترس قرار دهند.

بیرمن گفت: «هدف ما این است که شاهد استفاده از آن باشیم. “این نسخه منبع باز به عموم مردم امکان می دهد از آنچه ما ایجاد کردیم بهره مند شوند.”