مایکروسافت قابلیت جدیدی تحت گفتن «Correction» یا «اصلاح» را معارفه کرده است که برای از بین بردن خطاهای سیستم‌های هوش مصنوعی این شرکت کاربرد دارد.

بر پایه گزارش ورج، قابلیت‌های تازه ایمنی هوش مصنوعی مایکروسافت تحت گفتن برنامه «Trustworthy AI» یا «هوش مصنوعی قابل‌مطمعن» اراعه خواهد شد. مقصد از اراعه این برنامه از بین بردن نگرانی‌های فزاینده در رابطه امنیت، حریم خصوصی و قابلیت‌های مطمعن‌پذیری هوش مصنوعی است. مشتریانی که از سرویس Azure مایکروسافت برای سیستم‌های هوش مصنوعی خود منفعت گیری می‌کنند اکنون می‌توانند با منفعت گیری از این قابلیت تازه، خروجی‌های نادرست و محتواهای نادرست هوش مصنوعی را اشکار و بازنویسی کنند.

هوش مصنوعی مایکروسافت توانایی اصلاح خطاهای خود را دارد

قابلیت تازه «اصلاح» مایکروسافت هم‌اکنون به‌گفتن بخشی از Azure AI Studio در دسترس مشتریان قرار دارد. Azure AI Studio مجموعه‌ای از ابزارهای ایمنی برای شناسایی صدمه‌پذیری‌ها، یافتن توهمات و مسدودسازی مطلب‌های مخرب است.

بعد از فعال‌شدن این سیستم، قابلیت «اصلاح» از طریق قیاس محتوا با منبع های دیگر می‌تواند ایرادات خروجی هوش مصنوعی را اسکن و شناسایی کند. این چنین علاوه‌بر برجسته‌کردن نادرست، این سیستم می‌تواند اطلاعاتی در رابطه چرایی نادرستی محتوا اراعه کرده و آن را نیز با اطلاعات درست بازنویسی کند. به حرف های مایکروسافت، همه این موارد قبل از این که کاربر حتی بتواند علت نادرستی محتوا را فهمید شود، انجام می‌پذیرد.

گوگل نیز پیش‌ازاین قابلیت شبیهی را در پلتفرم ابری Vertex AI خود اراعه داده می بود. این قابلیت در پلتفرم گوگل می‌تواند خروجی‌های هوش مصنوعی را با نتایج گوگل، داده‌های خود شرکت و منبع های شخص ثالث قیاس کند.

به حرف های یکی از سخنگویان مایکروسافت، قابلیت تازه «اصلاح» این شرکت از مدل‌های زبانی کوچک و بزرگ برای ترازکردن خروجی‌ها با اسناد مرجع منفعت گیری می‌کند. یقیناً مایکروسافت می‌گوید که در این سیستم هم چنان امکان ابراز اشتباه وجود دارد.

این روزها نگرانی‌ها در رابطه هوش مصنوعی و تأثیر آن بر آینده بشریت به اوج خود رسیده است. برخی از متخصصان ارشد این حوزه نیز هشدار داده‌اند که به قوانین سخت‌گیرانه‌تری برای کنترل هوش مصنوعی نیاز است. در غیر این صورت، این فناوری می‌تواند هر لحظه از کنترل انسان خارج شود و نتایج فاجعه‌باری را به بار بیاورد.