مایکروسافت ابزار اصلاح خطاهای هوش مصنوعی را در آژور معرفی کرد

مایکروسافت ابزار اصلاح خطاهای هوش مصنوعی را در آژور معرفی کرد, مایکروسافت قابلیت جدیدی با نام اصلاح را برای شناسایی و رفع خطاهای مدلهای هوش مصنوعی معرفی کرده است. این ابزار در چارچوب برنامه هوش مصنوعی قابلمطمعن قرار گرفته و هدف آن افزایش امنیت، حریم خصوصی و اعتبار سیستمهای هوشمند است. کارکرد ابزار اصلاح در استودیو آژور این قابلیت اکنون بهعنوان بخشی از AI در دسترس مشتریان قرار دارد.

استودیو آژور مجموعهای از ابزارهای امنیتی برای شناسایی آسیبپذیریها، کشف توهمات و مسدودسازی محتوای مخرب فراهم میکند. با فعالسازی ابزار اصلاح، سیستم خروجیهای هوش مصنوعی را با اسناد و منابع مرجع مقایسه میکند. فرآیند کار به این صورت است که ابتدا محتوای نادرست اسکن و مشخص میشود. سپس سیستم دلیل خطا را تشریح کرده و متن را با اطلاعات صحیح بازنویسی میکند.

مایکروسافت تأکید دارد که این مراحل قبل از رسیدن خروجی به کاربر نهایی انجام میپذیرد تا از انتشار اطلاعات غلط جلوگیری شود. مقایسه با راهکارهای مشابه و چالشهای باقیمانده گوگل نیز پیش از این قابلیت مشابهی را در پلتفرم ابری AI ارائه داده بود که امکان تطبیق خروجیهای هوش مصنوعی با نتایج جستجو، دادههای سازمانی و منابع شخص سوم را فراهم میکند.

بر اساس lời یک سخنگوی مایکروسافت، ابزار جدید این شرکت از ترکیب مدلهای زبانی کوچک و بزرگ برای تراز کردن خروجیها با اسناد مرجع بهره میبرد. با این حال، شرکت ردموندی صراحتاً اعلام کرده که احتمال اشتباه در این سیستم همچنان وجود دارد.

در حال حاضر نگرانیهای جهانی در مورد تأثیرات هوش مصنوعی بر آینده بشر به اوج رسیده و متخصصان برای کنترل این فناوری بر ضرورت تشدید قوانین و مقررات تأکید میکنند تا از خارج شدن آن از کنترل انسان پیشگیری شود.