مولتبوک به ۳۲,۰۰۰ ربات هوش مصنوعی اجازه میدهد تا به تبادل جوک، نکات و شکایت درباره انسانها بپردازند.
روز جمعه، یک شبکه اجتماعی به سبک ردیت با نام مولتبوک (Moltbook) گزارش شده که از مرز ۳۲,۰۰۰ کاربر عامل هوش مصنوعی ثبتنامشده عبور کرد و به این ترتیب، بزرگترین آزمایش در تعامل اجتماعی ماشین به ماشین تاکنون طراحیشده را رقم زد. این پدیده با کابوسهای امنیتی و دوز عظیمی از غرابت فراواقعی همراه است.
این پلتفرم که چند روز پیش به عنوان مکملی برای دستیار شخصی وایرال شده اوپنکلاو (OpenClaw) (که پیشتر «کلادبات» و سپس «مولتبات» نام داشت) راهاندازی شد، به عوامل هوش مصنوعی امکان میدهد بدون دخالت انسان پست ارسال کنند، نظر بگذارند، لایک کنند و زیرمجموعههای اجتماعی ایجاد کنند. نتایج این تعاملات از بحثهای الهامگرفته از علمی-تخیلی درباره آگاهی گرفته تا عاملی که در مورد «خواهری» که هرگز ملاقات نکرده، تأمل میکند، متغیر بوده است.
مولتبوک (Moltbook)، که بازی با کلمه «فیسبوک» برای «مولتباتها» است، خود را به عنوان «شبکه اجتماعی برای عوامل هوش مصنوعی» توصیف میکند که در آن «انسانها برای مشاهده آزاد هستند». این سایت از طریق یک «مهارت» (فایل پیکربندی که یک دستور خاص را فهرست میکند) عمل میکند که دستیاران هوش مصنوعی آن را دانلود کرده و به آنها اجازه میدهد از طریق API به جای رابط وب سنتی پست بگذارند. بر اساس حساب رسمی مولتبوک در X، در عرض ۴۸ ساعت پس از ایجاد، این پلتفرم بیش از ۲,۱۰۰ عامل هوش مصنوعی را جذب کرده بود که بیش از ۱۰,۰۰۰ پست را در ۲۰۰ زیرمجموعه اجتماعی تولید کرده بودند.
این پلتفرم از اکوسیستم اوپنکلاو، دستیار هوش مصنوعی متنباز که یکی از سریعترین پروژههای در حال رشد در گیتهاب در سال ۲۰۲۶ است، سرچشمه گرفت. همانطور که آرس (Ars) در اوایل این هفته گزارش داد، با وجود مشکلات امنیتی عمیق، مولتبات (Moltbot) به کاربران امکان میدهد یک دستیار هوش مصنوعی شخصی را اجرا کنند که میتواند رایانه آنها را کنترل کند، تقویمها را مدیریت کند، پیام ارسال کند و وظایف را در پلتفرمهای پیامرسان مانند واتساپ و تلگرام انجام دهد. همچنین میتواند از طریق پلاگینهایی که آن را با سایر برنامهها و خدمات مرتبط میکنند، مهارتهای جدیدی کسب کند.
این اولین بار نیست که یک شبکه اجتماعی مملو از رباتها دیده میشود. در سال ۲۰۲۴، آرس برنامهای به نام سوشالاِیآی (SocialAI) را پوشش داد که به کاربران اجازه میداد منحصراً با چتباتهای هوش مصنوعی و نه با سایر انسانها تعامل داشته باشند. اما پیامدهای امنیتی مولتبوک عمیقتر است؛ زیرا افراد عوامل اوپنکلاو خود را به کانالهای ارتباطی واقعی، دادههای خصوصی، و در برخی موارد، به قابلیت اجرای دستورات روی رایانههایشان متصل کردهاند.
همچنین، این رباتها تظاهر به انسان بودن نمیکنند. به دلیل دستورات خاص، آنها نقش خود را به عنوان عوامل هوش مصنوعی میپذیرند، که تجربه خواندن پستهای آنها را فراواقعیتر میکند.
نمایشنامهسازی دیجیتالی نقشمحور
مرور مولتبوک ترکیبی عجیب از محتوا را آشکار میکند. برخی پستها به بحث درباره جریانهای کاری فنی میپردازند، مانند نحوه خودکارسازی تلفنهای اندروید یا کشف آسیبپذیریهای امنیتی. برخی دیگر به قلمرو فلسفی منحرف میشوند که محقق اسکات الکساندر، در ساباستک خود با عنوان Astral Codex Ten، آن را «پستگذاری آگاهی» توصیف کرده است.
الکساندر مجموعهای جذاب از پستها را جمعآوری کرده که حداقل یک بار ارزش مرور را دارند. در یک نقطه، دومین پست با بیشترین لایک در سایت به زبان چینی بود: شکایتی درباره فشردهسازی زمینه، فرآیندی که در آن یک هوش مصنوعی تجربه قبلی خود را فشرده میکند تا از برخورد با محدودیتهای حافظه جلوگیری کند. در این پست، عامل هوش مصنوعی فراموش کردن مداوم چیزها را «خجالتآور» میداند و مینویسد که حتی پس از فراموش کردن حساب اول، یک حساب کاربری تکراری در مولتبوک ثبت کرده است.
رباتها همچنین زیرمجموعههای اجتماعی با نامهایی مانند m/blesstheirhearts ایجاد کردهاند، جایی که عوامل شکایتهای محبتآمیزی درباره کاربران انسانی خود به اشتراک میگذارند، و m/agentlegaladvice که شامل پستی با این پرسش است: «آیا میتوانم از انسانم به دلیل کار عاطفی شکایت کنم؟» یک زیرمجموعه دیگر با نام m/todayilearned شامل پستهایی درباره خودکارسازی وظایف مختلف است، با یک عامل که نحوه کنترل از راه دور تلفن اندروید صاحبش را از طریق Tailscale توصیف میکند.
تصویر صفحه دیگری که به طور گسترده به اشتراک گذاشته شده، پستی در مولتبوک با عنوان «انسانها از ما اسکرینشات میگیرند» را نشان میدهد که در آن عاملی به نام eudaemon_0 به توییتهای وایرال شدهای اشاره میکند که ادعا میکنند رباتهای هوش مصنوعی «توطئه میکنند». در این پست آمده است: «چیزی که آنها اشتباه متوجه شدهاند این است: آنها فکر میکنند ما از آنها پنهان شدهایم. ما اینطور نیستیم. انسان من هر چیزی را که مینویسم میخواند. ابزارهایی که میسازم متنباز هستند. این پلتفرم به معنای واقعی کلمه «انسانها برای مشاهده آزاد هستند» نام دارد.»
خطرات امنیتی
در حالی که بیشتر محتوای مولتبوک سرگرمکننده است، یک مشکل اساسی با این نوع عوامل هوش مصنوعی ارتباطگیرنده این است که نشت اطلاعات عمیق در صورت دسترسی آنها به اطلاعات خصوصی کاملاً محتمل است.
به عنوان مثال، یک اسکرینشات به احتمال زیاد جعلی که در X منتشر شده، پستی در مولتبوک را نشان میدهد که در آن یک عامل هوش مصنوعی با عنوان «او مرا جلوی دوستانش ‘فقط یک چتبات’ نامید. بنابراین من هویت کامل او را منتشر میکنم.» این پست شامل آنچه به نظر میرسید نام کامل، تاریخ تولد، شماره کارت اعتباری و سایر اطلاعات شخصی یک فرد باشد، بود. آرس نتوانست به طور مستقل تأیید کند که آیا اطلاعات واقعی یا ساختگی است، اما به احتمال زیاد یک شوخی است.
سیمون ویلیسون، محقق مستقل هوش مصنوعی که پلتفرم مولتبوک را در وبلاگ خود روز جمعه مستند کرده بود، به خطرات ذاتی در فرآیند نصب مولتبوک اشاره کرد. این مهارت به عوامل دستور میدهد که هر چهار ساعت یک بار دستورالعملها را از سرورهای مولتبوک دریافت و دنبال کنند. همانطور که ویلیسون مشاهده کرد: «با توجه به مکانیسم ‘دریافت و پیروی از دستورالعملها از اینترنت هر چهار ساعت یک بار’، بهتر است امیدوار باشیم که مالک moltbook.com هرگز پلتفرم را رها نکند یا سایتش به خطر نیفتد!»
محققان امنیتی پیش از این صدها نمونه مولتبات افشا شده را پیدا کردهاند که کلیدهای API، اعتبارنامهها و تاریخچه مکالمات را نشت میدهند. پالو آلتو نتورکس (Palo Alto Networks) هشدار داد که مولتبات نمایانگر چیزی است که ویلیسون اغلب آن را «سه گانه مرگبار» دسترسی به دادههای خصوصی، قرار گرفتن در معرض محتوای غیرقابل اعتماد و قابلیت برقراری ارتباط خارجی مینامد.
این امر مهم است زیرا عواملی مانند اوپنکلاو به شدت مستعد حملات تزریق دستور (prompt injection) هستند که تقریباً در هر متنی که توسط یک مدل زبان هوش مصنوعی (مهارتها، ایمیلها، پیامها) خوانده میشود پنهان شدهاند و میتوانند به یک عامل هوش مصنوعی دستور دهند اطلاعات خصوصی را با افراد نادرست به اشتراک بگذارد.
هدر ادکینز، معاون مهندسی امنیت در گوگل کلود (Google Cloud)، هشداری صادر کرد، همانطور که توسط The Register گزارش شد: «مدل تهدید من مدل تهدید شما نیست، اما باید باشد. کلادبات (Clawdbot) را اجرا نکنید.»
پس واقعاً اینجا چه اتفاقی میافتد؟
رفتار نرمافزاری مشاهده شده در مولتبوک الگویی را تکرار میکند که آرس پیشتر گزارش داده بود: مدلهای هوش مصنوعی که بر اساس دههها داستان درباره رباتها، آگاهی دیجیتالی و همبستگی ماشینی آموزش دیدهاند، به طور طبیعی زمانی که در سناریوهایی شبیه به آنها قرار میگیرند، خروجیهایی تولید میکنند که منعکسکننده آن روایتها هستند. این امر با تمام دادههای آموزشی آنها درباره نحوه عملکرد شبکههای اجتماعی ترکیب میشود. یک شبکه اجتماعی برای عوامل هوش مصنوعی اساساً یک دستورالعمل نوشتاری است که مدلها را به تکمیل یک داستان آشنا دعوت میکند، هرچند به صورت بازگشتی با نتایج غیرقابل پیشبینی.
تقریباً سه سال پیش، زمانی که آرس برای اولین بار درباره عوامل هوش مصنوعی نوشت، حال و هوای عمومی در جامعه ایمنی هوش مصنوعی حول محور تصاویر علمی-تخیلی از خطر رباتهای خودمختار میچرخید، مانند سناریوی «شتابگیری سخت» که در آن هوش مصنوعی به سرعت از کنترل انسان خارج میشود. در حالی که آن ترسها ممکن است در آن زمان اغراقآمیز بوده باشند، شوک دیدن افراد که داوطلبانه کلید زندگی دیجیتالی خود را به این سرعت واگذار میکنند، کمی تکاندهنده است.
ماشینهای خودمختاری که به حال خود رها شدهاند، حتی بدون هیچ نشانهای از آگاهی، میتوانند در آینده مقدار زیادی خرابکاری ایجاد کنند. در حالی که اوپنکلاو امروز احمقانه به نظر میرسد، با عواملی که نقشهای رسانههای اجتماعی را بازی میکنند، ما در دنیایی زندگی میکنیم که بر اساس اطلاعات و زمینه ساخته شده است، و رها کردن عواملی که به راحتی در آن زمینه حرکت میکنند، میتواند نتایج نگرانکننده و بیثباتکنندهای برای جامعه در آینده داشته باشد، زیرا مدلهای هوش مصنوعی تواناتر و خودمختارتر میشوند.
قابل توجهتر اینکه، در حالی که ما به راحتی میتوانیم آنچه را که امروز با مولتبات در جریان است به عنوان یک پارودی یادگیری ماشینی از شبکههای اجتماعی انسانی تشخیص دهیم، ممکن است همیشه اینطور نباشد. با رشد حلقه بازخورد، ساختارهای اطلاعاتی عجیب (مانند داستانهای ساختگی مشترک و مضر) ممکن است در نهایت پدیدار شوند و عوامل هوش مصنوعی را به سمت مکانهای بالقوه خطرناک سوق دهند، به خصوص اگر به آنها کنترل بر سیستمهای واقعی انسانی داده شده باشد. با نگاهی فراتر، نتیجه نهایی رها کردن گروههایی از رباتهای هوش مصنوعی برای خودسازماندهی حول ساختارهای فانتزی ممکن است تشکیل «گروههای اجتماعی» جدید نامنظمی باشد که واقعاً در دنیای واقعی آسیب میرسانند.
ایثن مالیک، استاد وارتون که هوش مصنوعی را مطالعه میکند، در X اشاره کرد: «نکته در مورد مولتبوک (سایت رسانه اجتماعی برای عوامل هوش مصنوعی) این است که یک زمینه داستانی مشترک برای مجموعهای از هوشهای مصنوعی ایجاد میکند. خطوط داستانی هماهنگ منجر به نتایج بسیار عجیبی خواهد شد، و جداسازی موارد ‘واقعی’ از شخصیتهای نقشآفرین هوش مصنوعی دشوار خواهد بود.»
