هوش مصنوعی در نقش راوی حقیقت یا تقویت‌کننده تئوری توطئه؟ | نگرانی‌ها درباره یادداشت‌های جامعه‌محور در پلتفرم X
به گزارش برندسازی؛ با افزایش وابستگی شبکه اجتماعی X (توییتر سابق) به هوش مصنوعی برای تولید یادداشت‌های موسوم به Community Notes (یادداشت‌های جامعه‌محور)، کارشناسان نسبت به افزایش خطر ترویج اطلاعات نادرست و نظریه‌های توطئه هشدار داده‌اند. این یادداشت‌ها که با هدف تصحیح یا تکمیل اطلاعات موجود زیر پست‌ها منتشر می‌شوند، نقش مهمی در شکل‌دهی برداشت عمومی از برندها، چهره‌ها و رویدادهای سیاسی دارند.
به گزارش گاردین؛ به‌گفته پژوهشگران پلتفرم X، این یادداشت‌ها در آینده می‌توانند ترکیبی از محتوای تولیدشده توسط انسان و هوش مصنوعی باشند. الگوریتم‌های هوش مصنوعی وظیفه تهیه خلاصه‌ای بی‌طرف، مستند و قابل اتکا را خواهند داشت و سپس کاربران رأی می‌دهند که کدام یادداشت باید روی پلتفرم نمایش داده شود.
با این حال، این رویکرد با انتقاد شدید نهادهای تخصصی مواجه شده است. اندی دادفیلد، رئیس واحد هوش مصنوعی در سازمان بریتانیایی Full Fact هشدار می‌دهد که:
«این سیاست‌ها ممکن است بار سنگینی بر دوش بازبین‌های انسانی بگذارند و مسیر را برای تولید، بازبینی و انتشار کاملاً ماشینی یادداشت‌ها باز کنند؛ بدون آن‌که دقت و تأمل انسانی در آن دخیل باشد.»
ساموئل استاک‌ول، پژوهشگر مؤسسه امنیت فناوری‌های نوظهور در مؤسسه آلن تورینگ نیز تأکید کرده است:
«اگرچه هوش مصنوعی می‌تواند در بررسی حجم بالای ادعاهای روزانه در شبکه‌های اجتماعی مؤثر باشد، اما کیفیت یادداشت‌ها به شدت به تدابیری بستگی دارد که برای جلوگیری از خطاهای تحلیلی یا توهم حقیقت توسط این سیستم‌ها اعمال می‌شود.»
به گفته او، چت‌بات‌های هوش مصنوعی اغلب فاقد درک عمیق از بافت فرهنگی و سیاسی هستند اما با اطمینان بالا اطلاعاتی را ارائه می‌دهند که ممکن است نادرست ولی متقاعدکننده باشند – ترکیبی که اگر کنترل نشود، می‌تواند خطرناک باشد.
در یک مطالعه تحلیلی بر صدها پست گمراه‌کننده پیش از انتخابات ریاست‌جمهوری آمریکا در سال گذشته، مشخص شد که در ۷۵٪ موارد، یادداشت‌های اصلاحی اصلاً نمایش داده نشده‌اند. دلیل؟ کاربران به آن یادداشت‌ها رأی مثبت کافی نداده بودند تا آن‌ها به مرحله انتشار برسند. همین پست‌های گمراه‌کننده – شامل ادعاهایی مانند واردات رأی‌دهندگان غیرقانونی یا تقلب در انتخابات ۲۰۲۰ – مجموعاً بیش از دو میلیارد بازدید داشته‌اند.
آینده برندهای اجتماعی در معرض تزلزل ادراک
برای برندها، به‌ویژه آن‌ها که با اعتبار عمومی و سرمایه اجتماعی سر و کار دارند، چنین سازوکاری می‌تواند دو لبه خطرناک داشته باشد. از یک سو، یادداشت‌های جامعه‌محور فرصت خوبی برای مقابله با اطلاعات نادرست فراهم می‌کنند، اما از سوی دیگر، اتکا بیش‌ازحد به الگوریتم‌هایی که امکان تحریف یا تقویت روایت‌های نادرست را دارند، می‌تواند به شکل‌گیری تصورات ناعادلانه و خسارت‌بار علیه برندها منجر شود.
اعتماد عمومی به یادداشت‌هایی که به‌دست انسان نوشته شده‌اند، همچنان بسیار بیشتر از پرچم‌های هشدار یا یادداشت‌های ماشینی است. این واقعیت، یک هشدار مهم برای کسب‌وکارها و برندهاست: در عصر پلتفرم‌های خودکار و روایت‌های مبتنی بر رأی عمومی، صدای برند شما می‌تواند در میان هوش مصنوعی و الگوریتم‌ها گم شود – مگر آن‌که پیشاپیش برای آن برنامه‌ریزی کرده باشید.