منشور اخلافی مایکروسافت منتشر شد: انسان‌ها از هوش مصنوعی مهم‌ترند

مایکروسافت در میانه افزایش نگرانی‌ها درباره سرعت پیشرفت مدل‌های هوش مصنوعی، یک «منشور هوش مصنوعی انسان‌محور» در ۳۷ صفحه منتشر کرد؛ این سند بر این اصل تأکید دارد که انسان‌ها باید بر هوش مصنوعی کنترل داشته باشند و مدل‌های هوش مصنوعی نباید به‌گونه‌ای طراحی شوند که وانمود کنند دارای آگاهی هستند. درکل هسته این منشور این است که انسان‌ها مهم‌تر از هوش مصنوعی هستند.

به گزارش رویترز، مایکروسافت می‌گوید تدوین این منشور حدود پنج تا شش ماه طول کشیده و پس از مشورت با کارشناسان، اکنون قصد دارد آن را در معرض نظر عمومی قرار دهد. این شرکت سپس می‌خواهد از این اصول برای آموزش مدل‌های هوش مصنوعی آینده خود استفاده کند. «مصطفی سلیمان»، مدیرعامل هوش مصنوعی مایکروسافت، این سند را نوعی قانون اساسی برای مدل‌های آینده مایکروسافت توصیف کرده است.

مایکروسافت در این سند اعلام کرده است که مدل‌های هوش مصنوعی موجوداتی آگاه نیستند و نباید برای تقلید از آگاهی طراحی شوند. این شرکت همچنین با ایده اعطای شخصیت حقوقی یا حمایت‌های رفاهی به مدل‌های هوش مصنوعی مخالفت کرده است.

این موضع در تضاد با دیدگاه‌هایی است که پیش‌تر آنتروپیک مطرح کرده بود. «داریو آمودی»، مدیرعامل این شرکت، گفته بود آنتروپیک احتمال آگاه‌بودن مدل‌های هوش مصنوعی را منتفی نمی‌داند.

تأکید مایکروسافت بر کنترل هوش مصنوعی توسط انسان

مایکروسافت در منشور جدید خود تأکید دارد مدل‌های هوش مصنوعی باید تحت نظارت و کنترل معنادار انسان باقی بمانند و نباید از کنترل انسان خارج شوند. این شرکت همچنین می‌گوید مدل‌هایش باید در صورت مواجهه با دستور یا کاری که با اصول این منشور در تضاد است، از انجام آن کار خودداری کنند، نه اینکه برای دورزدن قواعد تلاش کنند.

مایکروسافت همچنین اعلام کرده است که مدل‌های آن نباید در قالب‌هایی فراتر از درک ساده انسان با یکدیگر یا با دیگر سیستم‌های هوش مصنوعی ارتباط برقرار کنند. این رویکرد به موضوع نظارت بر فرایند استدلال و فعالیت مدل‌ها مربوط می‌شود.

غول ردموند در منشور خود همچنین با رقابت برای ساخت «ابرهوش عمومی» مخالفت کرده است؛ به‌ویژه سیستمی که بتواند از سازوکارهای حفاظتی عبور کند. این شرکت می‌گوید هدفش ساخت هوش مصنوعی کاربردی و ایمن است، حتی اگر رسیدن به این هدف به قیمت کاهش قابلیت‌های کلی، خودمختاری یا توانایی‌های نهایی مدل‌ها تمام شود.

منشور مایکروسافت فقط بر کنترل فنی مدل‌ها تمرکز ندارد. این شرکت همچنین متعهد شده است مدل‌هایش از الگوهای تعاملی که باعث وابستگی بیش از حد یا وابستگی عاطفی کاربران می‌شوند، جلوگیری کنند.