تئودور به یاد میآورد که چگونه «هرزنامه» هوش مصنوعی کاسه صبرش را لبریز کرد.
تصویر مربوط به دو کودک لاغر و فقیر جنوب آسیا بود. به دلایلی، با وجود چهرههای کودکانه، آنها ریشهای پرپشتی داشتند. یکی از آنها دست و تنها یک پا نداشت. دیگری تابلویی در دست داشت که روی آن نوشته شده بود تولدش است و درخواست لایک میکرد.
بهطرز نامعلومی آنها وسط یک جاده شلوغ، زیر باران شدید، با کیک تولد نشسته بودند. تصویر پر از نشانههای آشکاری بود که با هوش مصنوعی ساخته شده است. اما در فیسبوک با نزدیک به یک میلیون لایک و ایموجی قلب فراگیر شد.
صبر تئودور لبریز شد.
این دانشجوی ۲۰ ساله اهل پاریس میگوید: «باورم نمیشد. تصاویر مضحک تولید شده با هوش مصنوعی در سراسر فیسبوک پخش شده بودند و بدون هیچ بررسی و نظارتی، با استقبال گستردهای مواجه میشدند – این برای من دیوانهکننده بود.»
بنابراین تئودور حسابی در ایکس (که قبلاً توییتر نامیده میشد) به نام “Insane AI Slop” (هرزنامه دیوانهوار هوش مصنوعی) باز کرد و شروع به افشاگری و تمسخر محتوایی کرد که مردم را فریب میداد. دیگران نیز متوجه این موضوع شدند و صندوق پیامهای او به زودی با درخواستهای ارسال مطالب پرطرفدار که اصطلاحاً «هرزنامه هوش مصنوعی» نامیده میشدند، پر شد.
موضوعات رایج شروع به آشکار شدن کردند – مذهب، ارتش یا کودکان فقیر که کارهای دلگرمکننده انجام میدهند.
تئودور میگوید: «بچهها در جهان سوم که کارهای چشمگیر انجام میدهند همیشه محبوب هستند – مثل یک کودک فقیر در آفریقا که مجسمهای باورنکردنی از زباله میسازد. فکر میکنم مردم این کار را پسندیده و سازندگان محتوا با خود میگویند ‘عالی است، بیایید بیشتر از این چیزها بسازیم.’»
حساب تئودور به زودی به بیش از ۱۳۳,۰۰۰ دنبالکننده افزایش یافت.
حمله «هرزنامه هوش مصنوعی» – که او آن را ویدئوها و تصاویر جعلی، غیرقابل باور و به سرعت ساخته شده تعریف میکند – اکنون غیرقابل توقف است. شرکتهای فناوری هوش مصنوعی را در آغوش گرفتهاند. برخی از این شرکتها میگویند که در حال آغاز سرکوب برخی از اشکال «هرزنامه هوش مصنوعی» هستند – هرچند بسیاری از فیدهای شبکههای اجتماعی همچنان پر از این محتوا به نظر میرسند.
تنها در عرض چند سال، تجربه استفاده از شبکههای اجتماعی عمیقاً تغییر کرده است. چگونه این اتفاق افتاد و چه تأثیری بر جامعه خواهد داشت؟
و شاید از همه مهمتر، میلیاردها کاربر شبکههای اجتماعی واقعاً چقدر اهمیت میدهند؟
«مرحله سوم» شبکههای اجتماعی
در ماه اکتبر، طی یک اعلام درآمد شادمانه دیگر، مارک زاکربرگ، مدیرعامل متا، با خوشحالی اعلام کرد که شبکههای اجتماعی وارد مرحله سوم شدهاند که اکنون بر هوش مصنوعی متمرکز است.
او به سهامداران گفت: «اولین مرحله زمانی بود که تمام محتوا از دوستان، خانواده و حسابهایی بود که مستقیماً دنبال میکردید.»
«مرحله دوم زمانی بود که ما تمام محتوای تولیدکنندگان را اضافه کردیم. اکنون که هوش مصنوعی ایجاد و بازسازی محتوا را آسانتر میکند، ما مجموعه عظیمی از محتوا را نیز اضافه خواهیم کرد.»
متا، که سایتهای شبکههای اجتماعی فیسبوک، اینستاگرام و تردز را اداره میکند، نه تنها به مردم اجازه میدهد محتوای تولید شده توسط هوش مصنوعی را منتشر کنند، بلکه محصولاتی را نیز برای امکانپذیر ساختن تولید بیشتر آن عرضه کرده است. ابزارهای تولید تصویر و ویدئو و فیلترهای قدرتمندتر به طور فزایندهای در سراسر پلتفرمها ارائه میشوند.
در پاسخ به درخواست برای اظهارنظر، متا بیبیسی را به گزارش درآمد ماه ژانویه ارجاع داد. در آن تماس، این میلیاردر گفت که شرکت حتی بیشتر به هوش مصنوعی روی آورده و هیچ اشارهای به سرکوب «هرزنامه» نکرده است.
زاکربرگ گفت: «به زودی شاهد انفجاری در فرمتهای رسانهای جدید خواهیم بود که غوطهورتر و تعاملیتر هستند و تنها به دلیل پیشرفتهای هوش مصنوعی امکانپذیر میشوند.»
نیل موهان، مدیرعامل یوتیوب، در وبلاگ پیشبینی خود برای سال ۲۰۲۶ نوشت که تنها در دسامبر، بیش از یک میلیون کانال یوتیوب از ابزارهای هوش مصنوعی این پلتفرم برای تولید محتوا استفاده کردند.
او نوشت: «همانطور که سینت سایزر، فتوشاپ و CGI صدا و تصاویر را متحول کردند، هوش مصنوعی نیز موهبتی برای خلاقانی خواهد بود که آماده پذیرش آن هستند.»
مدیرعامل همچنین اذعان کرد که نگرانیهای فزایندهای در مورد «محتوای بیکیفیت، موسوم به هرزنامه هوش مصنوعی» وجود دارد. او گفت که تیمش در حال کار بر روی راههایی برای بهبود سیستمها جهت یافتن و حذف «محتوای بیکیفیت و تکراری» است.
اما او همچنین هرگونه قضاوت در مورد اینکه چه چیزی باید مجاز باشد و چه چیزی نباید شکوفا شود را رد کرد. او اشاره کرد که محتوای زمانی خاص مانند ASMR (صداهای آرامشبخش که برای ایجاد حس سوزنسوزن شدن در پوست سر طراحی شدهاند) و بازیهای ویدئویی زنده اکنون جریان اصلی محسوب میشوند.
بر اساس تحقیقات شرکت هوش مصنوعی Kapwing، اکنون ۲۰ درصد از محتوایی که به یک حساب یوتیوب تازه باز شده نشان داده میشود، «ویدئوی بیکیفیت هوش مصنوعی» است.
ویدئوهای کوتاه به طور خاص کانون این پدیده بودند، به طوری که Kapwing دریافت که در ۱۰۴ مورد از ۵۰۰ کلیپ اول یوتیوب شورتز که به یک حساب جدید ایجاد شده توسط محققان نشان داده شد، محتوای هوش مصنوعی وجود داشت.
به نظر میرسد اقتصاد سازندگان، محرک بزرگی است زیرا افراد و کانالها میتوانند از تعامل و بازدیدها درآمد کسب کنند. با توجه به بازدیدهای برخی کانالها و ویدئوهای هوش مصنوعی، مردم واقعاً به این محتوا جذب میشوند – یا حداقل الگوریتمهایی که آنچه را میبینیم تعیین میکنند، اینگونه عمل میکنند.
به گفته Kapwing، کانال «هرزنامه هوش مصنوعی» با بیشترین بازدید، Bandar Apna Dost در هند است که ۲.۰۷ میلیارد بازدید داشته و برای سازندگانش تخمیناً ۴ میلیون دلار (۲.۹ میلیون پوند) درآمد سالانه به همراه داشته است.
اما واکنش منفی نیز در حال شکلگیری است.
در زیر بسیاری از ویدئوهای ویروسی هوش مصنوعی، اکنون مشاهده هجوم خشمگین نظراتی که محتوا را محکوم میکنند، رایج است.
هیولاهای غولپیکر و انگلهای شکمی مرگبار
تئودور، دانشجوی پاریسی، به هدایت این واکنش منفی کمک کرد.
او با استفاده از نفوذ تازه خود در ایکس، از ناظران یوتیوب در مورد هجوم کارتونهای عجیب هوش مصنوعی که تعداد زیادی بازدید داشتند، شکایت کرد. از نظر او، این محتوا آزاردهنده و مضر بود و در برخی موارد به نظر میرسید که کودکان را هدف قرار داده است.
نام این ویدئوها چیزهایی مانند «گربه مادر بچه گربهاش را از انگلهای شکمی مرگبار نجات میدهد» بود و صحنههای خونین را نشان میداد.
کلیپ کوتاه دیگری نیز زنی را در لباس خواب نشان میداد که یک انگل را میخورد و سپس به یک هیولای غولپیکر خشمگین تبدیل میشود که در نهایت توسط عیسی شفا مییابد.
یوتیوب کانالها را حذف کرد و به ما گفت که این کار را به دلیل نقض دستورالعملهای جامعه خود انجام داده است. آنها گفتند که «بر اتصال کاربرانمان به محتوای با کیفیت بالا، بدون توجه به نحوه ساخت آن، تمرکز دارند» و در حال تلاش برای «کاهش انتشار محتوای بیکیفیت هوش مصنوعی» هستند.
اما آن تجربه، و بسیاری موارد مشابه دیگر، تئودور را فرسوده کرده است.
حتی سایتهای سبک زندگی ظاهراً دلنشین مانند پینترست – پلتفرمی برای ایدههای دستور پخت و طراحی داخلی – نیز تحت تأثیر قرار گرفتهاند.
کاربران از هجوم «هرزنامه هوش مصنوعی» آنقدر ناامید شدهاند که این شرکت یک سیستم جدید برای حذف محتوای تولید شده با هوش مصنوعی معرفی کرده است – اما این سیستم متکی به اعتراف کاربران است که تصاویر خانههای رویاییشان توسط هوش مصنوعی ساخته شده است.
خشم در بخش نظرات
در فیدها (و میدانیم که فید هرکس متفاوت است – از جمله نظرات)، واکنش منفی به «هرزنامه هوش مصنوعی» بیپایان شده است.
چه تیکتاک باشد، چه تردز، اینستاگرام یا ایکس – به نظر میرسد یک جنبش مردمی علیه این محتوا در جریان است.
گاهی اوقات تعداد لایکهای نظرات مربوط به واکنش منفی به هوش مصنوعی بسیار بیشتر از پست اصلی است. این مورد در مورد یک ویدئوی اخیر که یک اسنوبوردسوار را در حال نجات گرگ از دست خرس نشان میدهد، صادق بود. خود ویدئو ۹۳۲ لایک داشت – در مقابل ۲,۴۰۰ لایک برای یک کامنتگذار که نوشت: «دستانتان را بالا ببرید اگر از این مزخرفات هوش مصنوعی خسته شدهاید.»
اما البته همه اینها به هیولا خوراک میدهد.
تمام تعاملات، تعاملات خوبی برای پلتفرمهای شبکههای اجتماعی هستند، جایی که نگه داشتن ما در حال اسکرول کلید موفقیت است.
بنابراین آیا واقعاً مهم است که ویدئوی شگفتانگیز، دلگرمکننده یا تکاندهنده در فید اجتماعی واقعی است یا نه؟
اثر «فرسودگی مغزی»
امیلی ثورسون، استادیار دانشگاه سیراکیوز در ایالات متحده، که در زمینه سیاست، اطلاعات نادرست و کجفهمی تخصص دارد، میگوید این بستگی به کاری دارد که مردم در پلتفرم شبکههای اجتماعی انجام میدهند.
او میگوید: «اگر فردی فقط برای سرگرمی در یک پلتفرم ویدئوهای کوتاه باشد، معیار او برای اینکه آیا چیزی ارزشمند است یا خیر، صرفاً این است که ‘آیا سرگرمکننده است؟’. اما اگر کسی در پلتفرم برای یادگیری موضوعی یا ارتباط با اعضای جامعه باشد، ممکن است محتوای تولید شده توسط هوش مصنوعی را مشکلسازتر تلقی کند.»
احساس مردم در مورد «هرزنامه هوش مصنوعی» نیز به نحوه ارتباط آن بستگی دارد.
اگر چیزی به وضوح به عنوان شوخی ساخته شود، به همین شکل نیز تلقی میشود. اما زمانی که «هرزنامه هوش مصنوعی» به طور خاص برای فریب ساخته شده باشد، میتواند مردم را عصبانی کند.
یک ویدئوی تولید شده توسط هوش مصنوعی که اخیراً دیده شد، نمونهای از این موضوع است: یک ویدئوی بسیار واقعی و به سبک تاریخ طبیعی از شکار شگفتانگیز یک پلنگ. در بخش نظرات، برخی از بینندگان فریب خوردند؛ برخی دیگر مطمئن نبودند.
یک کامنتگذار میپرسد: «این از کدام مستند است؟» و اضافه میکند: «لطفاً – این تنها راه اثبات عدم دخالت هوش مصنوعی است.»
آلساندرو گالئاتسی، از دانشگاه پادووا در ایتالیا، در مورد رفتار شبکههای اجتماعی و اتاقهای پژواک تحقیق میکند.
او میگوید که تأیید واقعی بودن یک ویدئو که توسط هوش مصنوعی ساخته شده باشد یا نه، تلاش ذهنی میطلبد و در بلندمدت، او نگران است که مردم به سادگی از بررسی دست بردارند.
او میگوید: «احساس من این است که سیل محتوای بیمعنی و بیکیفیت تولید شده با هوش مصنوعی ممکن است دامنه توجه مردم را بیشتر کاهش دهد.»
او بین محتوایی که قصد فریب دارد و «هرزنامه هوش مصنوعی» خندهدارتر و آشکارا جعلی، مانند ماهیهایی با کفش، یا گوریلهایی که در باشگاه وزنهبرداری میکنند، تمایز قائل میشود.
اما حتی این محتوای عجیب و غریبتر نیز ممکن است تأثیر مخربی داشته باشد. او از خطر «فرسودگی مغزی» صحبت میکند – این ایده که قرار گرفتن مداوم ما در معرض شبکههای اجتماعی به تواناییهای فکری ما آسیب میزند.
او میگوید: «به نظر من، «هرزنامه هوش مصنوعی» اثر فرسودگی مغزی را افزایش میدهد و باعث میشود مردم به سرعت محتوایی را مصرف کنند که میدانند نه تنها احتمال واقعی بودن آن کم است، بلکه احتمالاً بیمعنی یا جالب هم نیست.»
کاهش تیمهای تعدیلگر
فراتر از «هرزنامه»، برخی محتواهای تولید شده توسط هوش مصنوعی میتوانند پیامدهای بسیار بدتری داشته باشند.
شرکتهای xAI و پلتفرم اجتماعی X متعلق به ایلان ماسک اخیراً مجبور شدند قوانین خود را تغییر دهند، پس از آنکه از چتبات گروک برای برهنه کردن دیجیتالی زنان و کودکان در X استفاده میشد.
و در پی حمله ایالات متحده به ونزوئلا، ویدئوهای جعلی از مردمی که در خیابانها گریه میکردند و از ایالات متحده تشکر میکردند، منتشر شد. محتوایی از این دست میتواند افکار عمومی را شکل دهد و این تصور را ایجاد کند که حمله ایالات متحده محبوبتر از آنچه واقعاً بود، به نظر میرسید.
تحلیلگران میگویند این موضوع به ویژه نگرانکننده است، زیرا بسیاری از مردم از شبکههای اجتماعی به عنوان تنها منبع خبری خود استفاده میکنند.
دکتر مانی احمد، مدیرعامل OpenOrigins، شرکتی که بین تصاویر هوش مصنوعی و تصاویر واقعی تمایز قائل میشود، میگوید ما به روشی جدید نیاز داریم تا منتشرکنندگان محتوای واقعی بتوانند اصالت کلیپها و عکسهای خود را اثبات کنند.
او میگوید: «ما در حال حاضر به نقطهای رسیدهایم که نمیتوانید با اطمینان تنها با مشاهده بگویید چه چیزی واقعی است. به جای تلاش برای شناسایی آنچه جعلی است، ما به زیرساختی نیاز داریم که به محتوای واقعی اجازه دهد منبع خود را علناً اثبات کند.»
ممکن است فکر کنید این چیزی است که شرکتهای شبکههای اجتماعی میتوانند به عهده بگیرند. اما بسیاری از آنها، از جمله متا و ایکس، تیمهای تعدیلگر خود را کاهش داده و رویکرد جمعیتری را در پیش گرفتهاند. آنها اکنون به کاربران تکیه میکنند تا موارد جعلی یا گمراهکننده را برچسبگذاری کنند.
شبکه اجتماعی بدون «هرزنامه»؟
بنابراین، اگر غولهای فناوری موجود به طور کلی از جاری شدن «هرزنامه» راضی هستند، آیا یک پلتفرم شبکه اجتماعی جدید میتواند ظهور کند، جایگزینی بدون «هرزنامه» وعده دهد و در نهایت رقبا را به چالش بکشد؟
به نظر بعید میرسد زیرا شناسایی هوش مصنوعی هر روز دشوارتر میشود. ماشینها دیگر نمیتوانند با دقت تشخیص دهند که یک ویدئو یا تصویر قطعاً جعلی است، و ماشینها حتی در قضاوت ذهنی اینکه آیا محتوا «هرزنامه» محسوب میشود یا خیر، با مشکلات بیشتری روبرو خواهند شد.
با این حال، اگر یک شبکه اجتماعی جدید پا به عرصه بگذارد و مردم با قدمهای خود (یا دقیقتر بگوییم، با چشمان و انگشتان خود) به آن رأی دهند، ممکن است تغییری ایجاد کند. این وضعیت یادآور ظهور رقیب شبکههای اجتماعی BeReal است، یک برنامه فرانسوی که در طول همهگیری محبوبیت پیدا کرد و کاربران را تشویق میکند تا خود واقعی خود را از طریق سلفیهای بدون فیلتر در زمانهای تصادفی نشان دهند.
BeReal هنوز به همان اوجهای فیسبوکها و اسنپچتهای دنیا نرسیده و احتمالاً هرگز نخواهد رسید. اما باعث شد پلتفرمهای دیگر به خود بیایند و در برخی موارد، ایده را کپی کردند.
شاید اگر یک رقیب ضد «هرزنامه هوش مصنوعی» حرکتی انجام دهد، این اتفاق دوباره رخ دهد.
در مورد تئودور، او احساس میکند که نبرد از دست رفته و «هرزنامه هوش مصنوعی» ماندگار خواهد بود.
با وجود اینکه همچنان از ۱۳۰,۰۰۰ دنبالکننده خود پیامهایی دریافت میکند، او دیگر به اندازه گذشته پست نمیگذارد و تا حد زیادی خود را با وضعیت عادی جدید زندگی آنلاین وفق داده است.
او میگوید: «برخلاف بسیاری از دنبالکنندگانم، من به طور متعصبانه با هوش مصنوعی مخالف نیستم. من مخالف آلودگی آنلاین ناشی از «هرزنامه هوش مصنوعی» هستم که برای سرگرمی سریع و افزایش بازدید ساخته میشود.»
اعتبار تصویر اصلی: بیبیسی؛ تصویر هوش مصنوعی با Adobe Firefly تولید شده است.
