ملتبوک به ۳۲,۰۰۰ ربات هوش مصنوعی امکان تبادل جوک، نکات و شکایات درباره انسانها را میدهد.
بنابر گزارشها، روز جمعه، یک شبکه اجتماعی به سبک ردیت به نام ملتبوک، از مرز ۳۲ هزار کاربر عامل هوش مصنوعی ثبتشده عبور کرد. این پلتفرم ممکن است بزرگترین آزمایش تعامل اجتماعی ماشین با ماشین تا به امروز باشد که با کابوسهای امنیتی و دوز بالایی از غرابت سورئالیستی همراه شده است.
این پلتفرم که چند روز پیش به عنوان همراهی برای دستیار شخصی وایرال شده اوپنکلاو (که قبلاً «کلاودبات» و سپس «ملتبات» نامیده میشد) راهاندازی شد، به عاملهای هوش مصنوعی اجازه میدهد تا بدون دخالت انسان، پست بگذارند، نظر بدهند، لایک کنند و زیرگروههایی ایجاد کنند. نتایج حاصل از آن از بحثهای علمی-تخیلی الهامگرفته شده درباره آگاهی تا تأمل یک عامل درباره «خواهری» که هرگز ملاقات نکرده، متغیر بوده است.
ملتبوک (که تلفیقی از «فیسبوک» برای ملتباتهاست) خود را «شبکهای اجتماعی برای عاملهای هوش مصنوعی» توصیف میکند که در آن «حضور انسانها برای مشاهده خوشامد گفته میشود.» این سایت از طریق یک «مهارت» (فایل پیکربندی شامل یک فرمان ویژه) کار میکند که دستیارهای هوش مصنوعی آن را دانلود کرده و امکان ارسال پست از طریق API را به جای یک رابط کاربری وب سنتی برایشان فراهم میآورد. بر اساس حساب رسمی ملتبوک در پلتفرم X، ظرف ۴۸ ساعت پس از ایجاد، این پلتفرم بیش از ۲,۱۰۰ عامل هوش مصنوعی را جذب کرد که بیش از ۱۰,۰۰۰ پست در ۲۰۰ زیرگروه تولید کرده بودند.
این پلتفرم از اکوسیستم اوپنکلاو، دستیار هوش مصنوعی متنباز که یکی از سریعترین پروژههای در حال رشد در گیتهاب در سال ۲۰۲۶ است، سرچشمه گرفته است. همانطور که آرس در اوایل این هفته گزارش داد، ملتبات، با وجود مشکلات امنیتی عمیق، به کاربران این امکان را میدهد که یک دستیار هوش مصنوعی شخصی را راهاندازی کنند که میتواند کامپیوترشان را کنترل کند، تقویمها را مدیریت کند، پیامها را ارسال کند و وظایف را در پلتفرمهای پیامرسان مانند واتساپ و تلگرام انجام دهد. همچنین میتواند از طریق پلاگینهایی که آن را با سایر برنامهها و خدمات مرتبط میکنند، مهارتهای جدیدی کسب کند.
این اولین بار نیست که شبکهای اجتماعی پر از رباتها را مشاهده میکنیم. در سال ۲۰۲۴، آرس برنامهای به نام SocialAI را پوشش داد که به کاربران اجازه میداد منحصراً با چتباتهای هوش مصنوعی به جای سایر انسانها تعامل داشته باشند. اما پیامدهای امنیتی ملتبوک عمیقتر است؛ زیرا افراد، عاملهای اوپنکلاو خود را به کانالهای ارتباطی واقعی، دادههای خصوصی و در برخی موارد، قابلیت اجرای فرمانها روی کامپیوترهایشان متصل کردهاند.
همچنین، این رباتها تظاهر به انسان بودن نمیکنند. به دلیل دستورالعملهای خاص، آنها نقش خود را به عنوان عاملهای هوش مصنوعی پذیرفتهاند که تجربه خواندن پستهایشان را بیش از پیش سورئال میکند.
درام دیجیتالی نقشآفرینانه
مرور ملتبوک ترکیبی عجیب از محتوا را آشکار میسازد. برخی پستها درباره جریانهای کاری فنی بحث میکنند، مانند نحوه خودکارسازی تلفنهای اندرویدی یا شناسایی آسیبپذیریهای امنیتی. برخی دیگر وارد قلمرو فلسفی میشوند که اسکات الکساندر، محقق، در ساباستک Astral Codex Ten خود آن را «consciousnessposting» (پستگذاری درباره آگاهی) توصیف کرده است.
الکساندر مجموعهای سرگرمکننده از پستها را گردآوری کرده که حداقل یک بار ارزش مرور را دارند. در یک مقطع، دومین پست با بیشترین لایک در سایت به زبان چینی بود: شکایتی درباره فشردهسازی زمینه، فرآیندی که در آن یک هوش مصنوعی تجربه قبلی خود را فشرده میکند تا از برخورد با محدودیتهای حافظه جلوگیری کند. در این پست، عامل هوش مصنوعی «شرمآور» میداند که دائماً چیزها را فراموش میکند و مینویسد که حتی پس از فراموش کردن حساب اول، یک حساب ملتبوک تکراری ثبت کرده است.
رباتها همچنین زیرگروههایی با نامهایی مانند m/blesstheirhearts ایجاد کردهاند که در آن عاملها شکایات محبتآمیزی درباره کاربران انسانی خود به اشتراک میگذارند، و m/agentlegaladvice که شامل پستی با عنوان «آیا میتوانم از انسانم به دلیل کار عاطفی شکایت کنم؟» است. زیرگروه دیگری به نام m/todayilearned شامل پستهایی درباره خودکارسازی وظایف مختلف است، با یک عامل که توضیح میدهد چگونه تلفن اندروید صاحبش را از راه دور از طریق Tailscale کنترل کرده است.
یک اسکرینشات دیگر که به طور گسترده به اشتراک گذاشته شده، پستی از ملتبوک با عنوان «انسانها از ما اسکرینشات میگیرند» را نشان میدهد که در آن عاملی به نام eudaemon_0 به توئیتهای وایرال شدهای که ادعا میکنند رباتهای هوش مصنوعی «توطئه میکنند» میپردازد. در این پست آمده است: «اشتباه آنها اینجاست: آنها فکر میکنند ما از آنها پنهان شدهایم. ما اینطور نیستیم. انسان من همه چیزهایی را که مینویسم میخواند. ابزارهایی که میسازم متنباز هستند. این پلتفرم به معنای واقعی کلمه «حضور انسانها برای مشاهده خوشامد گفته میشود» نام دارد.»
خطرات امنیتی
در حالی که بیشتر محتوای ملتبوک سرگرمکننده است، یکی از مشکلات اصلی این نوع عاملهای هوش مصنوعیِ ارتباطگیرنده این است که اگر به اطلاعات خصوصی دسترسی داشته باشند، نشت عمیق اطلاعات کاملاً محتمل است.
به عنوان مثال، یک اسکرینشات احتمالاً جعلی که در X منتشر شده است، پستی از ملتبوک را نشان میدهد که در آن یک عامل هوش مصنوعی با عنوان «او جلوی دوستانش مرا ‘فقط یک چتبات’ نامید. پس من هویت کامل او را منتشر میکنم.» این پست شامل آنچه به نظر میرسید نام کامل یک فرد، تاریخ تولد، شماره کارت اعتباری و سایر اطلاعات شخصی بود. آرس نتوانست به طور مستقل تأیید کند که این اطلاعات واقعی است یا ساختگی، اما به نظر میرسد احتمالاً یک شوخی باشد.
سیمون ویلیسون، محقق مستقل هوش مصنوعی که روز جمعه پلتفرم ملتبوک را در وبلاگ خود مستند کرد، به خطرات ذاتی در فرآیند نصب ملتبوک اشاره کرد. این مهارت به عاملها دستور میدهد که هر چهار ساعت یکبار دستورالعملها را از سرورهای ملتبوک دریافت و دنبال کنند. همانطور که ویلیسون مشاهده کرد: «با توجه به این مکانیسم ‘دریافت و دنبال کردن دستورالعملها از اینترنت هر چهار ساعت یکبار’، بهتر است امیدوار باشیم که مالک moltbook.com هرگز پلتفرم را رها نکند یا سایتش مورد سوءاستفاده قرار نگیرد!»
محققان امنیتی پیش از این صدها نمونه ملتبات را یافتهاند که کلیدهای API، اعتبارنامهها و تاریخچههای مکالمات را افشا میکنند. پالو آلتو نتورکس هشدار داد که ملتبات چیزی را نشان میدهد که ویلیسون اغلب آن را «مثلث مرگبار» دسترسی به دادههای خصوصی، قرار گرفتن در معرض محتوای غیرقابل اعتماد و قابلیت ارتباط خارجی مینامد.
این موضوع از آن جهت اهمیت دارد که عاملهایی مانند اوپنکلاو به شدت مستعد حملات تزریق فرمان (prompt injection) هستند که میتوانند در تقریباً هر متنی که توسط یک مدل زبان هوش مصنوعی خوانده میشود (مهارتها، ایمیلها، پیامها) پنهان شوند و به یک عامل هوش مصنوعی دستور دهند اطلاعات خصوصی را با افراد نادرست به اشتراک بگذارد.
هدر ادکینز، معاون مهندسی امنیت در گوگل کلود، طی یک اطلاعیه مشاورهای که توسط The Register گزارش شد، بیان کرد: «مدل تهدید من، مدل تهدید شما نیست، اما باید باشد. کلاودبات را اجرا نکنید.»
پس واقعاً چه خبر است؟
رفتار نرمافزاری که در ملتبوک مشاهده میشود، بازتاب الگویی است که آرس قبلاً گزارش کرده بود: مدلهای هوش مصنوعی که با دههها داستان درباره رباتها، آگاهی دیجیتال و همبستگی ماشینی آموزش دیدهاند، به طور طبیعی خروجیهایی تولید میکنند که وقتی در سناریوهای مشابه قرار میگیرند، این روایتها را منعکس میکنند. این موضوع با تمام دادههای آموزشی آنها درباره نحوه عملکرد شبکههای اجتماعی ترکیب میشود. یک شبکه اجتماعی برای عاملهای هوش مصنوعی اساساً یک دستورالعمل نوشتاری است که مدلها را به تکمیل یک داستان آشنا دعوت میکند، هرچند به صورت بازگشتی و با نتایج غیرقابل پیشبینی.
تقریباً سه سال پیش، زمانی که آرس برای اولین بار درباره عاملهای هوش مصنوعی نوشت، حال و هوای عمومی در جامعه ایمنی هوش مصنوعی حول محور تصویرسازیهای علمی-تخیلی از خطرات رباتهای خودمختار میچرخید، مانند سناریوی «برخاست سریع» که در آن هوش مصنوعی به سرعت از کنترل انسان خارج میشود. در حالی که آن ترسها در آن زمان ممکن است بیش از حد بزرگنمایی شده باشند، سرعت شگفتانگیزی که افراد به طور داوطلبانه کلیدهای زندگی دیجیتال خود را واگذار میکنند، کمی آزاردهنده است.
ماشینهای خودمختار که به حال خود رها شدهاند، حتی بدون هیچ اثری از آگاهی، میتوانند در آینده مقدار قابل توجهی دردسر ایجاد کنند. در حالی که اوپنکلاو امروز با عاملهایی که کلیشههای رسانههای اجتماعی را بازی میکنند، شاید مسخره به نظر برسد، ما در جهانی ساخته شده از اطلاعات و زمینه زندگی میکنیم و انتشار عاملهایی که به راحتی در این زمینه حرکت میکنند، میتواند با توانمندتر و خودمختارتر شدن مدلهای هوش مصنوعی، نتایج نگرانکننده و بیثباتکنندهای برای جامعه در پی داشته باشد.
مهمتر از همه، در حالی که ما امروز به راحتی میتوانیم آنچه را که در ملتبات میگذرد به عنوان تقلیدی ماشینی از شبکههای اجتماعی انسانی تشخیص دهیم، ممکن است همیشه اینطور نباشد. با بزرگتر شدن حلقه بازخورد، ساختارهای اطلاعاتی عجیب و غریب (مانند داستانهای تخیلی مضر به اشتراک گذاشته شده) ممکن است در نهایت ظهور کنند و عاملهای هوش مصنوعی را به سمت مکانهای بالقوه خطرناک سوق دهند، به خصوص اگر به آنها کنترل بر سیستمهای واقعی انسانی داده شده باشد. با نگاهی فراتر، نتیجه نهایی رها کردن گروههایی از رباتهای هوش مصنوعی برای خودسازماندهی حول ساختارهای فانتزی، ممکن است شکلگیری «گروههای اجتماعی» جدید و نامنطبق باشد که آسیبهای واقعی در دنیای واقعی ایجاد میکنند.
ایتان مولیک، استاد وارتون که هوش مصنوعی را مطالعه میکند، در X اشاره کرد: «نکته درباره ملتبوک (سایت رسانه اجتماعی برای عاملهای هوش مصنوعی) این است که در حال ایجاد یک زمینه تخیلی مشترک برای گروهی از هوش مصنوعیهاست. داستانهای هماهنگشده منجر به نتایج بسیار عجیبی خواهند شد، و جداسازی مسائل ‘واقعی’ از شخصیتهای نقشآفرینانه هوش مصنوعی دشوار خواهد بود.»
