OpenAI سرعت توسعه مدل قدرتمند Astra را بهدلیل نگرانیهای امنیتی کاهش داد
OpenAI اعلام کرد که روند توسعه و فعالیتهای داخلی مربوط به مدل جدید هوش مصنوعی خود با نام Astra را کندتر کرده است. بررسیها و ارزیابیهای داخلی این شرکت نشان میدهد که مدل استرا پیشرفتهای خیرهکنندهای در زمینه کدنویسی ایجنتی و امنیت سایبری بهدست آورده است.
طبق بیانیه اوپنایآی، مدل درحال توسعه استرا به سطح بالایی از توانمندی دست یافته که براساس «چارچوب آمادگی» تدوینشده در سال ۲۰۲۳، بهعنوان «آستانه بحرانی امنیت سایبری» طبقهبندی میشود. دستیابی به این آستانه بدین معناست که هوش مصنوعی میتواند بهصورت مستقل، حملات سایبری پیچیدهای را علیه سیستمهای واقعی طراحی و اجرا کند.
کاهش سرعت توسعه مدل قدرتمند Astra
براساس تعاریف رسمی اوپنایآی در چارچوب آمادگی، یک مدل هوش مصنوعی زمانی به آستانه بحرانی امنیت سایبری میرسد که بتواند بدون نیاز به مداخله انسانی، آسیبپذیریهای کارآمد روز صفر را در سطوح مختلف شدت، درون سیستمهای حساس واقعی شناسایی و استخراج کند، یا بتواند تنها با دریافت یک هدف کلی، راهبردهای جدید و سراسری برای حملات سایبری علیه اهداف محافظتشده طراحی و اجرا کند.
بااینحال، مسئولان اوپنایآی شفافسازی کردهاند که مدل استرا نقشی در حادثه نفوذ اخیر به پلتفرم هاگینگ فیس نداشته است و آن رویداد مربوط به تستهای ایمنی مدل دیگری در زیرساخت آزمایشی بوده است.
افشای عمومی تصمیم اوپنایآی برای توقف یا کندکردن توسعه یک محصول پیش از عرضه رسمی، اقدامی کمنظیر در فضای رقابتی آزمایشگاههای پیشرو هوش مصنوعی محسوب میشود. اوپنایآی علت انتشار این گزارش را متعهد بودن به اصل شفافیت با افکار عمومی و جامعه پژوهشگران ایمنی هوش مصنوعی عنوان کرده است.
در پاسخ به این یافتهها، اوپنایآی تدابیر امنیتی سختگیرانهتری را برای مدلهای دارای توانمندی بالا اجرا کرده است. ازجمله این اقدامات، پیادهسازی سیستم «نظارت سراسری» برای شناسایی اقدامات پرخطر در تمام برنامههای ایجنتی است. این شرکت همچنین اعلام کرد که برای ارزیابی دقیقتر و ایمنسازی مدل استرا، با نهادهای دولتی مربوطه و سازمانهای تخصصی ایمنی هوش مصنوعی همکاری نزدیکی را آغاز کرده است.
نظرات کاربران