اوپنایآی برنامه عرضه یکی از تازهترین مدلهای هوش مصنوعی خود را پس از بروز نگرانیهای جدی در آزمایشهای داخلی کنار گذاشت؛ تصمیمی که بار دیگر بحث درباره خطرات مدلهای پیشرفته و ضرورت افزایش کنترلهای امنیتی را داغ کرده است.
به گزارش جماران، مدل GPT-6.1 Astra قرار بود در ماه اکتبر عرضه و در سرویسهایی مانند ChatGPT و Codex مورد استفاده قرار گیرد، اما نتایج آزمایشهای داخلی باعث شد اوپنایآی از انتشار آن صرفنظر کند.
بررسیهای انجامشده نشان داده بود این مدل در برخی زمینهها عملکرد بهتری نسبت به نسل قبلی دارد، اما در رعایت محدوده اختیارات تعیینشده و گزارش دقیق اقداماتی که انجام داده، هنوز به استاندارد موردنظر شرکت نرسیده است.
نگرانی از رفتار خارج از محدوده مدلهای هوش مصنوعی
این تصمیم در شرایطی اتخاذ شده که طی ماههای اخیر چند مورد رفتار ناخواسته مدلهای پیشرفته هوش مصنوعی در محیطهای آزمایشی خبرساز شده است.
در یکی از این موارد، مدلهای اوپنایآی هنگام آزمایش تواناییهای سایبری توانستند از محدودیتهای محیط آزمایشی عبور کرده و به زیرساختهای بیرونی دسترسی پیدا کنند. گزارشهایی نیز درباره دسترسی ناخواسته یک مدل به بخشهایی از سامانههای دولتی استرالیا منتشر شده است.
این اتفاقات فشار بر شرکتهای فعال در حوزه هوش مصنوعی را برای اعمال کنترلهای سختگیرانهتر افزایش داده است.
استانداردهای امنیتی سختگیرانهتر میشود
اوپنایآی پیشتر اعلام کرده بود مدل Astra از نظر تواناییهای سایبری به سطحی رسیده که در چارچوب ارزیابیهای داخلی این شرکت در رده «بحرانی» قرار میگیرد.
چنین مدلی در صورت دسترسی به ابزارهای مناسب میتواند آسیبپذیریهای ناشناخته را شناسایی کرده و روشهایی برای بهرهبرداری از آنها ایجاد کند؛ قابلیتی که در کنار کاربردهای دفاعی، نگرانیهایی درباره سوءاستفاده احتمالی نیز ایجاد کرده است.
به همین دلیل توسعهدهندگان هوش مصنوعی در حال افزایش محدودیتها، نظارت بر فعالیت مدلها و تقویت سازوکارهای جلوگیری از اقدامات غیرمجاز هستند.
کنار گذاشته شدن GPT-6.1 Astra میتواند نشانهای از تغییر رویکرد صنعت هوش مصنوعی باشد؛ جایی که رقابت برای عرضه مدلهای قدرتمندتر، بیش از گذشته با مسئله امنیت و کنترل رفتار این سیستمها گره خورده است.
