نیویورکتایمز گزارش داده است ایران، چین و دو شرکت خصوصی اسرائیلی با استفاده از مدلهای متنباز و «عاملهای هوش مصنوعی»، نسل تازهای از عملیات نفوذ در شبکههای اجتماعی را آزمایش کردهاند؛ عملیاتی که میتواند از ساخت حسابهای جعلی تا تولید، انتشار و هماهنگسازی پیامها را با حداقل دخالت انسان انجام دهد. براساس این گزارش، شبکهای منتسب به ایران که کاربران آمریکایی را هدف گرفته بود، نزدیک به ۸۰ هزار دنبالکننده جذب کرده است.
به گزارش سرویس بینالملل جماران، گزارش نیویورکتایمز میگوید ایران، چین و دو شرکت خصوصی اسرائیلی طی ماههای اخیر از ترکیب مدلهای متنباز چینی و «عاملهای هوش مصنوعی» برای اجرای نوع تازهای از عملیات نفوذ در شبکههای اجتماعی استفاده کردهاند. اهمیت این تحول در آن است که هوش مصنوعی دیگر صرفاً برای تولید متن، تصویر یا ویدئوی جعلی به کار نمیرود؛ بلکه اکنون میتواند تقریباً تمام مراحل یک عملیات نفوذ، از ساخت حسابهای جعلی گرفته تا انتشار و هماهنگسازی پیامها، را با حداقل دخالت انسان انجام دهد.
«مدل متنباز» سامانهای است که میتوان آن را دانلود، اصلاح و روی تجهیزات خصوصی اجرا کرد. برخلاف مدلهای بسته شرکتهایی مانند OpenAI و Anthropic، شرکت سازنده نمیتواند از راه دور فعالیت چنین مدلی را متوقف کند. «عامل هوش مصنوعی» نیز نرمافزاری است که تنها به پرسشها پاسخ نمیدهد، بلکه میتواند بهصورت مستقل از نرمافزارهای مختلف استفاده کند، حساب بسازد، مطلب منتشر کند، به کاربران پاسخ دهد و مجموعهای از وظایف پیوسته را انجام دهد.
در عملیات گزارششده، محدودیتهای ایمنی مدلها که برای جلوگیری از جعل هویت و دستکاری بحثهای آنلاین طراحی شده بودند، غیرفعال شده بود.
به گفته مقامهای آمریکایی و پژوهشگران امنیتی، صدها عامل هوش مصنوعی شبکههایی از حسابهای جعلی را در اینستاگرام، فیسبوک، ایکس و تیکتاک ایجاد کردند و سپس مطالب نادرست سیاسی و خبری را با سرعت بالا منتشر کردند. این عملیات هنوز از نظر محتوایی ابتدایی بود، اما به دلیل خودکارشدن تمام مراحل، توجه سازمانهای اطلاعاتی آمریکا، شرکتهای فناوری و متخصصان امنیتی را جلب کرد.
بررسیها نشان داد عملیات ایران و چین تحت حمایت دولتها بوده، اما دو عملیات منتسب به اسرائیل توسط شرکتهای خصوصی انجام شده است.
عملیات منتسب به ایران و جذب نزدیک به ۸۰ هزار دنبالکننده
عملیات منتسب به ایران بیش از دیگر موارد موجب نگرانی مقامهای آمریکایی شد، زیرا مستقیماً مخاطبان ایالات متحده را هدف قرار داده بود. حسابهای ساختهشده با هوش مصنوعی خود را شهروندان عادی آمریکا و ساکن شهرهای بزرگ معرفی میکردند. این حسابها در بخش نظرات، روزنامهنگاران و سیاستمداران را برچسب میزدند و میمهای رایج و مطالبی علیه حزب جمهوریخواه منتشر میکردند.
این شبکه در نیمه نخست سال فعال بود و حسابهای آن در مجموع نزدیک به ۸۰ هزار دنبالکننده جذب کردند.
آزمایش شیوههای مشابه از سوی چین
گزارش جزئیات چندانی درباره عملیات چین ارائه نمیکند و تنها میگوید پکن نیز همین شیوههای مبتنی بر عاملهای هوش مصنوعی را آزمایش کرده است.
نگرانی اصلی مقامهای آمریکایی این است که ایران، چین یا روسیه بتوانند پیش از انتخابات میاندورهای نوامبر، عملیات مشابهی را علیه رأیدهندگان آمریکایی اجرا کنند. هر سه کشور در انتخابات گذشته نیز از عملیات نفوذ آنلاین و اشکال ابتدایی هوش مصنوعی استفاده کردهاند، اما فناوری جدید میتواند این اقدامات را بسیار گستردهتر، ارزانتر و شبیهتر به رفتار کاربران واقعی کند.
عملیات شرکت اسرائیلی «اینتلآی»
یکی از دو عملیات اسرائیلی به شرکت «اینتلآی» مستقر در تلآویو نسبت داده شد؛ شرکتی که در سال ۲۰۲۳ به دست فارغالتحصیلان گروه NSO، سازنده نرمافزارهای جاسوسی، تأسیس شد. این شرکت با استفاده از مدل چینی دیپسیک هزاران حساب در فیسبوک، اینستاگرام، تیکتاک و ایکس ایجاد کرد که درباره انتخابات آینده اسرائیل مطلب مینوشتند و همزمان مطالب موافق و مخالف بنیامین نتانیاهو منتشر میکردند.
یکی از بنیانگذاران اینتلآی گفت شرکتش ۱۰ هزار حساب شبکه اجتماعی خریداری کرده بود که حدود هزار حساب از آنها فعال شدند. عاملهای هوش مصنوعی موضوعها و پیامها را انتخاب میکردند، زیر مطالب نظر میگذاشتند و میکوشیدند کاربران را وارد گفتوگو کنند، هرچند موفقیت محدودی داشتند. او مدعی شد هدف از این فعالیت، اجرای عملیات نفوذ نبوده، بلکه آزمایشی دفاعی برای بررسی امکان سوءاستفاده از مدلهای فاقد تدابیر ایمنی بوده است؛ با این حال، پذیرفت که شرکت باید پیشاپیش پلتفرمها را از این آزمایش مطلع میکرد.
متا این فعالیت را تلاشی هماهنگ برای ایجاد حسابهای غیرواقعی دانست و گفت بیشتر حسابهای مرتبط را شناسایی و حذف کرده است.
هشدار متا و تیکتاک درباره استفاده از هوش مصنوعی
متا و تیکتاک پیشتر نیز گزارش داده بودند که هوش مصنوعی برای ساخت حساب و تولید محتوا به کار گرفته میشود. متا این تحول را از نظر فنی مهم توصیف کرده است، زیرا هوش مصنوعی اکنون در سامانههایی تعبیه شده که میتوانند محتوا را با دخالت اندک انسان تولید، اصلاح و توزیع کنند. این شرکت همچنین از عملیات جداگانه و نسبتاً پیچیده یک مجموعه تجاری اسرائیلی خبر داده، اما نام آن را اعلام نکرده است.
ورود عملیات نفوذ به مرحلهای تازه
نتیجه اصلی گزارش این است که عملیات نفوذ وارد مرحلهای تازه شده است؛ مرحلهای که در آن عاملهای هوش مصنوعی میتوانند بهصورت شبانهروزی، در مقیاسی وسیع و با هزینه کم، هویتهای جعلی بسازند، پیامها را با تحولات روز تطبیق دهند و رفتاری شبیه کاربران انسانی نشان دهند. اگرچه نمونههای کنونی هنوز ابتدایی و قابلشناساییاند، افزایش توانایی مدلهای متنباز میتواند شناسایی عاملان، تعطیلکردن شبکهها و محافظت از انتخابات و افکار عمومی را بهمراتب دشوارتر کند.
