نرم افزار جدید می تواند میزان اطلاعاتی که هوش مصنوعی واقعا می داند را تأیید کند

با توجه به علاقه روزافزون به سیستم‌های هوش مصنوعی مولد (AI) در سراسر جهان، محققان دانشگاه ساری نرم‌افزاری ایجاد کرده‌اند که می‌تواند میزان اطلاعاتی را که یک سیستم داده هوش مصنوعی از پایگاه داده دیجیتال یک سازمان جمع‌آوری کرده است، تأیید کند.

“نرم افزار تأیید ما می تواند استنباط کند که هوش مصنوعی چقدر می تواند از تعامل آنها بیاموزد، آیا آنها دانش کافی دارند که همکاری موفقیت آمیز را ممکن می کند یا خیر، و آیا آنها دانش زیادی دارند که حریم خصوصی را نقض می کند. از طریق توانایی تأیید آنچه که هوش مصنوعی آموخته است، می توانیم ارائه دهیم. سازمان ها این اطمینان را دارند که با خیال راحت قدرت هوش مصنوعی را در تنظیمات ایمن رها کنند.”

این برگه یا سند یا نوشته تحت پوشش قانون کپی رایت است. به غیر از هرگونه معامله منصفانه به منظور مطالعه یا تحقیق خصوصی، هیچ بخشی بدون اجازه کتبی قابل تکثیر نیست. محتوای مذکور فقط به هدف اطلاع رسانی ایجاد شده است.





منبع

مطالعه در مورد نرم افزار Surrey برنده جایزه بهترین مقاله در این جشنواره شد بیست و پنجمین سمپوزیوم بین المللی روش های رسمی.

اطلاعات بیشتر:
Fortunat Rajaona و همکاران، معناشناسی برنامه و تکنیک تأیید برای برنامه‌های متمرکز بر هوش مصنوعی (2023). openresearch.surrey.ac.uk/espl … tputs/99723165702346

ارائه شده توسط دانشگاه ساری


پروفسور آدریان هیلتون، مدیر مؤسسه هوش مصنوعی مردم محور در دانشگاه ساری، می گوید: «در چند ماه گذشته، علاقه شدید مردم و صنعت به مدل های هوش مصنوعی مولد ناشی از پیشرفت در مدل های زبانی بزرگ، افزایش یافته است. به عنوان ChatGPT. ایجاد ابزارهایی که می توانند عملکرد هوش مصنوعی مولد را تأیید کنند برای استقرار ایمن و مسئولانه آنها ضروری است. این تحقیق گام مهمی در جهت حفظ حریم خصوصی و یکپارچگی مجموعه داده های مورد استفاده در آموزش است.”

بخوان  گوشی Moto X30 Pro برای رقابت با پرچمدار سامسونگ می آید

نرم افزار تأیید سوری می تواند به عنوان بخشی از پروتکل امنیتی آنلاین یک شرکت مورد استفاده قرار گیرد و به سازمان کمک کند تا بفهمد آیا هوش مصنوعی بیش از حد آموخته است یا حتی به داده های حساس دسترسی پیدا کرده است.

نقل قول: نرم‌افزار جدید می‌تواند میزان اطلاعاتی را که هوش مصنوعی واقعاً می‌داند تأیید کند (۲۰۲۳، ۴ آوریل) بازیابی شده در ۴ آوریل ۲۰۲۳ از

دکتر فورتونات راجائونا پژوهشگر در تأیید رسمی حریم خصوصی در دانشگاه ساری و نویسنده اصلی مقاله است. او گفت: “در بسیاری از کاربردها، سیستم‌های هوش مصنوعی با یکدیگر یا با انسان‌ها تعامل دارند، مانند ماشین‌های خودران در بزرگراه یا ربات‌های بیمارستانی. کشف آنچه که یک سیستم داده هوشمند هوش مصنوعی می‌داند یک مشکل دائمی است که سال‌ها برای آن زمان صرف کرده‌ایم. یک راه حل کاری برای

هوش مصنوعی

اعتبار: دامنه عمومی Pixabay/CC0

این نرم افزار همچنین قادر است تشخیص دهد که آیا AI نقص های کد نرم افزار را شناسایی کرده و می تواند از آن استفاده کند. به عنوان مثال، در یک زمینه بازی آنلاین، می‌تواند تشخیص دهد که آیا هوش مصنوعی یاد گرفته است که همیشه در پوکر آنلاین با سوء استفاده از یک خطای کدگذاری برنده شود یا خیر.