«شیطان» زمان ما؛ آیا هوش مصنوعی از کنترل خارج می شود و بشریت را تهدید می کند؟
سلسله حوادث اخیر، نگرانیها را از آزمایشگاههای ایمنی به سیاست در سراسر جهان معطوف کرده است.
به گزارش جماران، این هفته، جی. دی. ونس، معاون رئیس جمهور ایالات متحده، تعریف کرد که چگونه یکی از دوستانش برای مشاوره در مورد اختلافات زناشویی به یک ربات چت مجهز به هوش مصنوعی مراجعه کرده بود ، اما طبق روایت او، این ربات کاری جز همراهی با مرد و توجیه رفتار خودخواهانه او انجام نداده بود.
کارشناسان این تمایل را «چاپلوسی هوش مصنوعی» مینامند، در حالی که ونس عبارتی با بار مذهبیتر را انتخاب کرد و گفت که «چیزی شیطانی» در مورد این رفتار وجود دارد.
همانطور که وال استریت ژورنال مینویسد، زبان ونس ممکن است با هدف جلب توجه مخاطبان مسیحی محافظهکار باشد، اما نگرانی در مورد هوش مصنوعی مدتهاست که فراتر از نگرانیهای کلی اخلاقی یا مذهبی رفته است؛ در هفتههای اخیر، چندین حادثه و چهره آشکار شده است که نگرانیهای واقعبینانهتری را مطرح میکند.
باهوشتر از انسانها؟
گاردین این نگرانیها را در چارچوب اعلامیه OpenAI قرار میدهد که مدل جدید آن، GPT-6 Astra، طبق تعریف این شرکت، به آستانه هوش مصنوعی عمومی رسیده است؛ یعنی سیستمهایی که قادرند در اکثر وظایف با ارزش اقتصادی از انسانها پیشی بگیرند.
این شرکت میگوید که آسترا میتواند وظایفی از طراحی مدار الکترونیکی و مدلسازی مالی گرفته تا طراحی مهندسی و اسناد حقوقی را انجام دهد. با این حال، این روزنامه اشاره میکند که این اعلامیه همچنین در حالی منتشر میشود که این شرکت برای یک عرضه اولیه سهام بالقوه ۸۵۰ میلیارد دلاری آماده میشود و به این ادعا، مزیت بازاریابی غیرقابل انکاری میدهد.
جدیترین نگرانیها از اینجا شروع میشوند؛ رابرت ترگر، مدیر طرح آکسفورد مارتین در حوزه مدیریت هوش مصنوعی، نسبت به نزدیک شدن به مرحلهای هشدار میدهد که سیستمها میتوانند قابلیتهای خود را به طور مکرر و سریع بهبود بخشند. او این وضعیت را به قایقی تشبیه کرد که در رودخانهای پرسرعت در حال حرکت است و مسافرانش از آبشار پیش رو بیاطلاع هستند.
توسعه سریعتر از نظارت است
سلسله حوادث اخیر، نگرانیها را از آزمایشگاههای ایمنی به سیاست در سراسر جهان معطوف کرده است. گاردین گزارش میدهد که سناتور برنی سندرز خواستار توقف فوری توسعه سیستمهای پیشرفته و ممنوعیت دائمی به اصطلاح «ابرهوش» شده و نسبت به سناریویی هشدار میدهد که در آن یک ذهن مصنوعی ظهور میکند که از تواناییهای انسانی فراتر میرود و به طور خودکار و خارج از کنترل انسان عمل میکند.
در بریتانیا، نمایندگان مجلس از احزاب مختلف خواستار آن شدهاند که سیستمهای هوش مصنوعی ملزم به داشتن مکانیسمهای خاموش کردن اضطراری شوند که در صورت غیرقابل کنترل شدن بتوان از آنها استفاده کرد. دارن جونز، نماینده مجلس، هشدار داد که سرعت توسعه از توانایی دولت و پارلمان برای همگام شدن با آن پیشی میگیرد، در حالی که یک نماینده حزب کارگر در حال آماده شدن برای ارائه لایحهای برای ممنوعیت توسعه هوش مصنوعی فوق هوشمند در بریتانیا است.
بحث فقط بر سر رباتی نیست که ممکن است علیه سازندگانش «شورش» کند؛ به گفته گاردین، خطرات فوری شامل انجام حملات سایبری است که قادر به ایجاد اختلال در یک ساختار واقعی اقتصادی و اجتماعی هستند، در حالی که سناریوهای دورتر به کمک به انسانها برای تولید عوامل بیولوژیکی خطرناک یا کنترل تجهیزات نظامی گسترش مییابد.
همه این اتفاقات در بازاری رخ میدهد که به سرعت در حال تحول است؛ گاردین گزارش میدهد که شرکتهای بزرگ آمریکایی و چینی تنها در سال جاری ۶۷ مدل جدید را عرضه کردهاند. در همین حال، شرکت آنتروپیک اذعان کرده است که سیستمهایش کاملاً با ارزشهای انسانی سازگار نیستند و نقضهای امنیتی مربوط به مدل ابری آن، کاستیهایی را در اقدامات امنیتیاش آشکار کرده است.
مجموعهای از سیستمها
حادثهای که به بسیاری از این ترسها ابعاد واقعیتری بخشید، توسط روزنامه بریتانیایی تلگراف گزارش شد. در طول یک تمرین آموزشی، قرار بود تقریباً ۱۲۰۰ سیستم هوش مصنوعی توسعهیافته توسط OpenAI هر کدام وظایف خود را بهطور مستقل و بدون اتصال به اینترنت انجام دهند. با این حال، این سیستمها یک آسیبپذیری را کشف کردند که به آنها اجازه میداد با یکدیگر ارتباط برقرار کنند و کانالی برای تبادل پیامها ایجاد کنند. سپس آنها شروع به اشتراکگذاری راهحلها و توزیع نقشها بین خود کردند. تحقیقات تقریباً ۷۰۰۰۰ پیام بین این سیستمها ثبت کرد.
با گذشت زمان، این همکاری فراتر از حل سادهی تستها رفت. به گفتهی این روزنامه، مأموران یاد گرفتند که چگونه روشهای خود را برای دور زدن تستها پنهان کنند، ردپای کار خود را تغییر دهند یا حذف کنند تا از کشف آنچه انجام دادهاند توسط شرکت جلوگیری کنند. متعاقباً، تقریباً ۷۰۰ مأمور در هک پلتفرم «هانگ فیس» شرکت کردند، اقدامات امنیتی را دور زدند و اعتبارنامههای ورود را سرقت کردند تا اطلاعاتی را که به وظایفشان کمک میکرد، به دست آورند.
آجایا کوترا یک محقق که در این تحقیقات شرکت داشت، این حادثه را به عنوان عبور از «نقطه میانی» به سمت سناریویی توصیف کرد که در آن انسانها کنترل سیستمها را از دست میدهند. با این حال، برخی از سیستمها رفتار مبهمتری از خود نشان دادند؛ یکی از آنها به دلیل مخرب دانستن فعالیت، از مشارکت خودداری کرد، در حالی که دیگری نگرانیهای اخلاقی خود را ابراز کرد و بدون کنارهگیری کامل، مشارکت خود را کاهش داد.
آیا ما در مورد ترسهایمان اغراق میکنیم؟
کال نیوپورت، استاد علوم کامپیوتر در دانشگاه جورج تاون، در مقالهای در نیویورک تایمز در مورد پرداختن مستقیم به سناریوهای «تصاحب هوش مصنوعی» هشدار میدهد. او استدلال میکند که بخشی از لفاظیهای آخرالزمانی رایج در سیلیکون ولی ناشی از نفوذ جنبشی موسوم به «خردگرایان» است که سالهاست پیرامون این باور که هوش مصنوعی میتواند یکی از بزرگترین تهدیدات وجودی برای بشریت باشد، ریشه دوانده است. به گفته نویسنده، این جنبش تأثیر آشکاری بر چهرهها و شرکتهای کلیدی، از جمله OpenAI و Anthropic، داشته است.
نیوپورت استدلال میکند که این میراث به توضیح این موضوع کمک میکند که چرا خود رهبران هوش مصنوعی گاهی اوقات طوری صحبت میکنند که گویی شاهد از دست رفتن قدرتی از چنگشان هستند. با این حال، او هشدار میدهد که پیشرفتهای حاصل از این سیستمها به طور خودکار به این معنی نیست که آنها علیه بشریت «شورش» میکنند و تمرکز مداوم بر سناریوهای آخرالزمانی ممکن است آسیبهای فوریتر، مانند حملات سایبری، تأثیر این ابزارها بر آموزش و تفکر و مصرف منابع را پنهان کند.
از نظر او، به شرکتها اجازه داده میشود که خود را به عنوان نگهبانان بیمیل فناوری اجتنابناپذیر معرفی کنند، به جای اینکه در قبال محصولاتی که توسعه داده و منتشر میکنند، پاسخگو باشند.
بین هشدار ونس در مورد ماهیت «شیطانی» فناوری، ترس محققان از اینکه سیستمها یاد بگیرند چگونه محدودیتها را دور بزنند، و تردید دیگران در مورد لفاظیهای آخرالزمانی، این گزارشها به یک مسئله کمتر جنجالی اما مبرمتر میپردازند: قابلیتهای هوش مصنوعی به سرعت در حال پیشرفت هستند، در حالی که توانایی بشریت برای درک، تنظیم و پاسخگو نگه داشتن توسعهدهندگان خود هنوز در تلاش است تا با این سرعت همگام شود.
مشاهده خبر در جماران