فید هوش مصنوعی متا شبیه یک تونل عجیب اینترنتی شده است

گزارش‌ها نشان می‌دهد اپلیکیشن مستقل هوش مصنوعی متا به‌تدریج با محتوای کلیک‌بیتی کم‌کیفیت، داستان‌های احساسی ساختگی و پست‌های طراحی‌شده برای جلب واکنش کاربران پر شده است؛ موضوعی که دوباره پرسش‌هایی درباره نحوه نظارت بر پلتفرم‌های هوش مصنوعی مولد، در حالی که هرچه بیشتر اجتماعی و عمومی می‌شوند، مطرح کرده است.

به گزارش برندسازی؛ بر اساس گزارشی از The Verge، کاربران فید کشف اجتماعی در Meta AI با پست‌های عجیب تولیدشده توسط هوش مصنوعی مواجه شده‌اند؛ از اعتراف‌های شخصی ساختگی گرفته تا ادعاهای گمراه‌کننده درباره سلامت و سناریوهای داستانی عجیب که عمدتاً برای جذب واکنش و اشتراک‌گذاری طراحی شده‌اند. به نظر می‌رسد این مسئله به تصمیم متا برای عمومی‌کردن گفتگوها و پرامپت‌های تولیدشده با هوش مصنوعی در داخل اپلیکیشن مرتبط باشد؛ اقدامی که عملاً بخشی از این پلتفرم را به یک فید محتوایی شبیه شبکه‌های اجتماعی تبدیل کرده است.

منتقدان می‌گویند نتیجه این رویکرد، شکل‌گیری فضایی است که در آن کاربران برای جلب توجه، به تولید محتوای هرچه اغراق‌آمیزتر یا احساسی‌تر با کمک هوش مصنوعی تشویق می‌شوند. برخی از این پست‌ها شباهت زیادی به تاکتیک‌های قدیمی کلیک‌بیت در فیسبوک دارند و برخی دیگر مرز میان طنز، اطلاعات نادرست و اسپم تولیدشده با هوش مصنوعی را مبهم می‌کنند.

 پیامدهای ناخواسته «هوش مصنوعی اجتماعی»

این وضعیت چالش تازه‌ای را برای شرکت‌های فعال در حوزه هوش مصنوعی برجسته می‌کند: زمانی که چت‌بات‌ها از دستیارهای خصوصی به پلتفرم‌های اجتماعی تبدیل می‌شوند و محتوای تولیدشده در آن‌ها به‌صورت عمومی منتشر و توسط الگوریتم‌ها پیشنهاد می‌شود، چه اتفاقی می‌افتد؟

متا به‌طور تهاجمی در حال معرفی هوش مصنوعی به‌عنوان یک تجربه اجتماعی است، نه صرفاً ابزاری برای بهره‌وری. به‌جای محدود کردن تعاملات به گفت‌وگوهای خصوصی، پلتفرم هوش مصنوعی این شرکت کاربران را تشویق می‌کند تا پرامپت‌ها، تصاویر تولیدشده و پست‌های مبتنی بر هوش مصنوعی خود را منتشر کنند تا دیگران بتوانند آن‌ها را ببینند و با آن‌ها تعامل داشته باشند.

این رویکرد می‌تواند تعامل کاربران را افزایش دهد، اما در عین حال همان مشکلات نظارتی آشنای شبکه‌های اجتماعی را نیز ایجاد می‌کند. گزارش‌ها نشان می‌دهد فید Meta AI اکنون داستان‌های احساسی، توصیه‌های مشکوک زندگی، تجربه‌های ساختگی و سناریوهای اغراق‌آمیز را نمایش می‌دهد؛ محتواهایی که بیشتر برای تحریک واکنش کاربران طراحی شده‌اند تا ارائه اطلاعات مفید.

برای کاربران، این تجربه می‌تواند به‌سرعت گیج‌کننده شود. از آنجا که بسیاری از پست‌ها توسط هوش مصنوعی تولید یا با کمک آن نوشته شده‌اند، تشخیص تفاوت میان تجربه‌های واقعی انسانی، شوخی‌ها، آزمایش‌های کاربران با پرامپت‌ها و روایت‌های کاملاً ساختگی دشوارتر می‌شود. منتقدان هشدار می‌دهند چنین روندی ممکن است به کاهش بیشتر اعتماد در فضای آنلاین منجر شود؛ به‌ویژه در شرایطی که محتوای تولیدشده با هوش مصنوعی روزبه‌روز واقعی‌تر و متقاعدکننده‌تر می‌شود.

این مسئله همچنین بازتاب روند گسترده‌تری در صنعت هوش مصنوعی است؛ جایی که شرکت‌ها برای افزایش تعامل کاربران رقابت می‌کنند، در حالی که هنوز در حال تلاش برای ایجاد چارچوب‌های مؤثر نظارت بر محتوای تولیدشده هستند. با اجتماعی‌تر شدن ابزارهای هوش مصنوعی، سیستم‌های نظارتی نیز برای همگام شدن با سرعت تغییرات با چالش مواجه شده‌اند.

آینده فیدهای اجتماعی مبتنی بر هوش مصنوعی

اگرچه متا این فید را به‌عنوان یک شبکه اجتماعی سنتی معرفی نکرده است، اما پلتفرم به‌تدریج رفتاری مشابه شبکه‌های اجتماعی پیدا کرده است. کاربران می‌توانند تعاملات عمومی مبتنی بر هوش مصنوعی را مرور کنند؛ تجربه‌ای شبیه مرور محتوا در اینستاگرام، Threads یا فیسبوک.

این موضوع اهمیت دارد، زیرا الگوریتم‌های پیشنهاد محتوا معمولاً مطالبی را تقویت می‌کنند که بیشترین تعامل را ایجاد می‌کنند، نه لزوماً باکیفیت‌ترین یا دقیق‌ترین محتوا را. اگر پست‌های جنجالی یا گمراه‌کننده تولیدشده با هوش مصنوعی توجه بیشتری جلب کنند، پلتفرم‌ها ممکن است ناخواسته تولید محتوای کم‌کیفیت را تشویق کنند؛ همان الگویی که سال‌ها در شبکه‌های اجتماعی باعث رشد محتوای جنجالی و کلیک‌بیتی شده است.

این بحث در حالی مطرح می‌شود که متا به‌طور فزاینده‌ای هوش مصنوعی را در سراسر اکوسیستم خود، از واتساپ و اینستاگرام گرفته تا فیسبوک و اپلیکیشن‌های مستقل هوش مصنوعی، ادغام می‌کند. این شرکت هوش مصنوعی مکالمه‌ای را بخش مهمی از آینده تجربه اینترنت می‌داند، اما واکنش‌های اخیر نشان می‌دهد کاربران و نهادهای نظارتی احتمالاً خواهان کنترل و شفافیت بیشتری در نحوه نمایش و برچسب‌گذاری محتوای تولیدشده با هوش مصنوعی خواهند شد.

در حال حاضر، فید هوش مصنوعی متا تصویری اولیه از آنچه هنگام برخورد هوش مصنوعی مولد با منطق شبکه‌های اجتماعی رخ می‌دهد ارائه می‌دهد؛ و نتایج آن برای بسیاری، آشنا به نظر می‌رسد.