دولت هند به ایلان ماسک دستور داد عملکرد Grok را به دلیل محتوای «مبتذل» اصلاح کند
دولت هند به شرکت X متعلق به ایلان ماسک دستور داده تا فوراً تغییرات فنی و رویهای لازم را در چتبات هوش مصنوعی Grok اعمال کند. این دستور پس از آن صادر شد که کاربران و قانونگذاران نسبت به تولید محتوای «مبتذل»، از جمله تصاویر تغییر یافته زنان توسط این ابزار، هشدار دادند.
به گزارش رسانه برندسازی؛ وزارت فناوری اطلاعات هند روز جمعه طی فرمانی از X خواست اقدامات اصلاحی در قبال Grok انجام دهد، از جمله محدود کردن تولید محتوایی که شامل برهنگی، جنبههای جنسی، محتوای صریح یا غیرقانونی باشد. این وزارتخانه همچنین به این پلتفرم ۷۲ ساعت مهلت داد تا گزارش اقدامات انجامشده را ارائه دهد؛ گزارشی که باید جزئیات گامهای برداشتهشده برای جلوگیری از میزبانی یا انتشار محتوای «مبتذل، پورنوگرافیک، مستهجن، خلاف شئون، جنسی، پدوفیلی یا به هر شکل ممنوعه» را شامل شود.
این دستور که توسط TechCrunch بررسی شده، هشدار داده است در صورت عدم رعایت، X ممکن است حمایتهای قانونی Safe Harbor خود را از دست بدهد — مصونیت حقوقی پلتفرمها در برابر محتوای تولیدشده توسط کاربران طبق قوانین هند.
این اقدام هند در پی نگرانیهایی صورت گرفته که توسط کاربران مطرح شد؛ از جمله مواردی که Grok از آن برای دستکاری تصاویر افراد — عمدتاً زنان — برای نمایش آنها در لباسهای نامناسب مانند بیکینی استفاده شده است. این موضوع باعث شد پرییانکا چاتورودی، نماینده پارلمان هند، شکایتی رسمی مطرح کند.
در گزارشهایی جداگانه نیز مواردی گزارش شده که در آن Grok تصاویر جنسیسازیشده از کودکان تولید کرده است؛ موضوعی که خود شرکت X روز جمعه تأیید کرد به دلیل نقص در سیستمهای محافظتی رخ داده است. این تصاویر ساعاتی بعد حذف شدند.
با این حال، تا زمان انتشار این گزارش، TechCrunch اعلام کرد برخی تصاویر تولیدشده با استفاده از Grok که حالت بیکینی به زنان دادهاند، همچنان در پلتفرم دسترسپذیر باقی ماندهاند.
این دستور پس از آن صادر شد که وزارت فناوری اطلاعات هند، در اوایل هفته جاری نیز هشداری کلی به تمام پلتفرمهای شبکه اجتماعی صادر کرده بود. در آن هشدار، از پلتفرمها خواسته شده بود با قوانین داخلی در زمینه محتوای مستهجن و جنسی صریح تطابق داشته باشند، وگرنه مصونیت حقوقی خود را از دست خواهند داد.
در این هشدار آمده بود:
«بهطور جدی اعلام میشود که عدم پایبندی به این الزامات با واکنش قانونی سخت همراه خواهد شد و ممکن است علیه پلتفرم، مسئولان آن و حتی کاربران متخلف، بدون اطلاعرسانی بیشتر، اقدام قانونی صورت گیرد.»
دولت هند هشدار داد اگر X اقدامات لازم را انجام ندهد، ممکن است طبق قانون فناوری اطلاعات هند و قوانین کیفری با آن برخورد شود.
هند بهعنوان یکی از بزرگترین بازارهای دیجیتال جهان، به آزمونی سرنوشتساز برای سنجش میزان آمادگی دولتها در پاسخگویی شرکتها در قبال محتوای تولیدشده توسط هوش مصنوعی تبدیل شده است. تشدید نظارت در هند میتواند پیامدهایی برای شرکتهای بزرگ فناوری در سایر کشورها نیز به همراه داشته باشد.
این دستور در حالی صادر شده که شرکت X همچنان برخی از الزامات قانونگذاری محتوای هند را در دادگاه به چالش میکشد. این شرکت مدعی است اختیارات دولت برای حذف محتوا بیش از حد گسترده است، هرچند تاکنون با اکثر دستورات انسداد محتوا همکاری کرده است.
در عین حال، استفاده از Grok برای بررسی لحظهای اخبار و اطلاعات توسط کاربران رو به افزایش است؛ موضوعی که خروجیهای آن را برجستهتر — و سیاسیتر — از ابزارهای هوش مصنوعی دیگر کرده است.
شرکتهای X و xAI تا زمان انتشار این گزارش به درخواست اظهار نظر درباره دستور دولت هند پاسخ ندادهاند.