یوشوا بنجیو به پروژه ایمنی هوش مصنوعی بریتانیا پیوست

یوشوا بنجیو، دانشمند کامپیو‌تر کانادایی و برنده جایزه تورینگ سال ۲۰۱۸ که از پدرخوانده‌های هوش مصنوعی مدرن محسوب می‌شود، به عنوان مدیر علمی به پروژه AI اضافه شده است.

این پروژه که توسط آژانس تحقیقات و اختراعات پیشرفته بریتانیا (ARIA) تأمین مالی می‌شود، با بودجه ۵۹ می‌لیون پوند در طول چهار سال آینده اجرا خواهد شد. هدف اصلی ساخت سیستم‌های هوش مصنوعی است که بتوانند امنیت سایر مدل‌های هوش مصنوعی را ارزیابی و تضمین کنند.

مدیر پروژه بیان کرده که سیستم‌های پیشن‌هادی باید بتوانند در مورد تأثیر مدل‌های هوش مصنوعی بر دنیای واقعی، ضمانت‌های کمی و امتیاز ریسک ارائه دهند که بر پایه مدل‌های علمی و اثبات‌های ریاضی استوار باشند. او تأکید کرد که شرکت‌های فناوری در حال حاضر راهی برای ارائه ضمانت‌های ریاضی مبنی بر عملکرد صحیح سیستم‌های خود ندارند و این عدم اطمینان می‌تواند نتایج فاجعه‌باری به همراه داشته باشد.

ارائه راهکار‌های نوین برای ایمن‌سازی سیستم‌های هوش مصنوعی

بنجیو و مدیر پروژه استدلال می‌کنند که تکنیک‌های جاری مانند تیم قرمز که در آن افراد نقایص سیستم‌ها را بررسی می‌کنند، محدودیت‌های جدی دارند و برای اطمینان از ایمنی سیستم‌های حیاتی کافی نیستند.

آن‌ها امیدوارند این پروژه بتواند روش‌های جدیدی برای ایمن‌سازی هوش مصنوعی فراهم کند که کمتر به تلاش‌های انسانی و بیش‌تر به استدلال‌های ریاضی متکی باشند. آژانس ARIA در سال اول ۵.۴ می‌لیون پوند و در سال دوم ۸.۲ می‌لیون پوند به سازمان‌ها و افراد فعال در حوزه‌های پرخطر مانند حمل‌ونقل، مخابرات، زنجیره تأمین و تحقیقات پزشکی برای توسعه مکانیسم‌های ایمنی هوش مصنوعی تخصیص خواهد داد.