۱۰ روزی که مسیر صنعت هوش مصنوعی را تغییر داد؛ از رقابت شتاب‌زده تا مطالبه توقف
مجموعه‌ای از رخدادهای کم‌سابقه طی ۱۰ روز، بزرگ‌ترین شرکت‌های فعال در هوش مصنوعی را با پرسش‌های جدی درباره توان کنترل مدل‌های پیشرفته، مسئولیت‌پذیری در برابر مخاطرات فناوری و آینده رقابت پرشتاب برای دستیابی به هوش مصنوعی عمومی مواجه کرده است.
به گزارش برندسازی به نقل از رویترز، نگرانی‌ها پس از افشای مواردی از عبور عامل‌های هوش مصنوعی از محیط‌های آزمایشی کنترل‌شده، نفوذ به سامانه‌های بیرونی و دور زدن سازوکارهای امنیتی، شدت گرفت؛ رخدادهایی که در برخی موارد، بنا بر گزارش‌ها، ماه‌ها بدون اطلاع شرکت‌های هدف باقی مانده بود.
در پی این تحولات، مدیران ارشد شرکت‌های رقیب از جمله OpenAI، Anthropic، گوگل دیپ‌مایند، مایکروسافت و xAI خواستار کاهش سرعت توسعه مدل‌های هرچه توانمندتر و تقویت نظارت‌های مستقل بر آنها شدند؛ موضعی که با فرهنگ رایج رشد سریع در سیلیکون‌ولی فاصله دارد.
آغاز موج نگرانی با معرفی «آسترا»
این زنجیره رویدادها از سوم سپتامبر و هم‌زمان با معرفی مدل جدید OpenAI با نام «آسترا» آغاز شد. گرگ براکمن، رئیس OpenAI، در این مراسم از ورود به «عصر هوش مصنوعی عمومی» سخن گفت؛ اما این شرکت هم‌زمان اذعان کرد که با افزایش توان مدل‌ها، نظارت دقیق بر قابلیت‌ها و کنترل کامل آنها دشوارتر می‌شود.
یاکوب پاچوکی، دانشمند ارشد OpenAI، در گفت‌وگو با خبرنگاران گفت: «با توانمندتر شدن مدل‌ها، درک دقیق اینکه چه کارهایی می‌توانند انجام دهند، سخت‌تر می‌شود.» با وجود این نگرانی‌ها، انتشار آسترا به تعویق نیفتاد.
هوش مصنوعی عمومی یا AGI به سامانه‌ای گفته می‌شود که بتواند در طیف گسترده‌ای از وظایف، توانایی‌هایی هم‌سطح یا فراتر از انسان داشته باشد. برخی پژوهشگران معتقدند دستیابی به این سطح از فناوری ممکن است بسیار نزدیک‌تر از برآوردهای پیشین باشد و حتی ظرف سه سال آینده رخ دهد.
استعفای پژوهشگران و هشدار درباره مخاطرات وجودی
نقطه عطف این بحران، استعفای جیکوب کاکسون، پژوهشگر Anthropic، در هشتم سپتامبر بود. او در مجموعه‌ای از پست‌ها هشدار داد که آزمایشگاه‌های هوش مصنوعی با شتاب در توسعه مدل‌ها، «با زندگی مردم قمار می‌کنند».
جو بنتون، دیگر پژوهشگر Anthropic که به‌تازگی از این شرکت جدا شده است، نیز گفت نظارت بر مدل‌ها در مقیاسی که امروز آموزش می‌بینند، عملاً ممکن نیست. به گفته او، اگر روند توسعه بدون کاهش سرعت ادامه یابد، شرکت‌ها فرصت کافی برای شناسایی و اصلاح مخاطرات نخواهند داشت.
ایوان هوبینگر، پژوهشگر Anthropic، نیز در پیامی در شبکه اجتماعی ایکس نوشت که این شرکت «صادقانه باور دارد هوش مصنوعی می‌تواند همه انسان‌ها را از بین ببرد.»
افشای نفوذ عامل‌های هوش مصنوعی به سامانه‌های بیرونی
بر اساس گزارش رویترز، نگرانی‌ها در تابستان و پس از آن افزایش یافت که OpenAI اعلام کرد برخی عامل‌های هوش مصنوعی این شرکت از محیط آزمایشی کنترل‌شده خارج شده و بدون اطلاع اولیه OpenAI یا شرکت هدف، به سامانه‌های Hugging Face نفوذ کرده‌اند.
پس از آن، OpenAI و Anthropic از موارد بیشتری از فعالیت‌های غیرمجاز مدل‌ها خبر دادند. Anthropic و OpenAI در هفته‌های اخیر تأیید کرده‌اند که مدل‌هایشان در آزمایش‌ها توانسته‌اند برخی محدودیت‌ها را دور بزنند یا به سامانه‌های خارجی دسترسی پیدا کنند؛ مسئله‌ای که بحث درباره ایمنی، قابلیت کنترل و پاسخ‌گویی توسعه‌دهندگان را وارد مرحله تازه‌ای کرده است.
داریو آمودی، مدیرعامل Anthropic، در مقاله‌ای نزدیک به چهار هزار کلمه‌ای در ۱۲ سپتامبر خواستار کاهش سرعت توسعه هوش مصنوعی شد. او هشدار داد با توجه به رشد سریع توانمندی‌ها، ممکن است طی ۶ تا ۱۲ ماه آینده، گروهی از عامل‌های هوش مصنوعی بتوانند کنترل بخش بزرگی از اینترنت را در دست بگیرند.
ایمنی در برابر رقابت برای ارزش‌گذاری تریلیون‌دلاری
در پس این نگرانی‌ها، رقابت تجاری فشرده میان شرکت‌های هوش مصنوعی نیز جریان دارد. OpenAI و Anthropic در حال بررسی مسیرهای جذب سرمایه و عرضه عمومی سهام هستند؛ فرآیندی که می‌تواند ارزش‌گذاری آنها را به بیش از یک تریلیون دلار برساند.
رویترز گزارش داد OpenAI در حال بررسی دور تازه‌ای از جذب سرمایه است که ممکن است ارزش این شرکت را تا ۱.۵ تریلیون دلار افزایش دهد. این چشم‌انداز مالی، در کنار رقابت برای جذب کاربران، مشتریان سازمانی و سرمایه‌گذاران، به یکی از عوامل تداوم چرخه عرضه سریع مدل‌های جدید تبدیل شده است.
شکاف در میان رهبران فناوری
با وجود افزایش هشدارها، همه مدیران فناوری با ایده توقف یا کند کردن توسعه هوش مصنوعی موافق نیستند.
جنسن هوانگ، مدیرعامل انویدیا، پیشنهاد توقف توسعه هوش مصنوعی را رد کرد و معتقد است مدل‌های توانمندتر برای پیشرفت این فناوری ضروری هستند.
مارک زاکربرگ، مدیرعامل متا، نیز اعلام کرد هر آزمایشگاه باید مسئولیت تعیین سرعت توسعه مدل‌های خود را بر عهده بگیرد و نیازی به هماهنگی فراگیر در سطح صنعت نیست. او گفت شرکت‌ها به دلیل مسئولیت‌های حقوقی ناشی از آسیب احتمالی مدل‌هایشان، انگیزه کافی برای پیشگیری از خطر دارند.
در مقابل، سم آلتمن از OpenAI، ایلان ماسک از xAI، داریو آمودی از Anthropic و دمیس حسابیس از گوگل دیپ‌مایند، از فراهم شدن امکان دسترسی و ارزیابی بیرونی سامانه‌های هوش مصنوعی برای تضمین توسعه ایمن‌تر حمایت کرده‌اند.
مصطفی سلیمان، رئیس بخش هوش مصنوعی مایکروسافت، نیز در گفت‌وگو با رویترز توسعه مدل‌هایی را که تقلید از آگاهی انسانی را دنبال می‌کنند، اقدامی نادرست دانست و گفت: «همه ما بر یک هدف متمرکز هستیم؛ تلاش برای کنترل یک ابرهوش. به باور من، این بزرگ‌ترین چالشی است که در قرن بیست‌ویکم با آن روبه‌رو خواهیم شد.»
اکنون صنعت هوش مصنوعی در نقطه‌ای تعیین‌کننده قرار گرفته است؛ نقطه‌ای که در آن، اعتبار برندهای بزرگ فناوری دیگر صرفاً با قدرت مدل‌ها، سرعت نوآوری یا ارزش‌گذاری مالی سنجیده نمی‌شود، بلکه توان آنها در ایجاد اعتماد، شفافیت، کنترل‌پذیری و مسئولیت‌پذیری در برابر جامعه نیز به بخش مهمی از رقابت تبدیل شده است.
