زاکربرگ: شرکت‌های هوش مصنوعی انگیزه کافی برای توسعه ایمن دارند
چهارشنبه، 25 شهریور
مارک زاکربرگ، مدیرعامل متا، معتقد است شرکت‌های فعال در حوزه هوش مصنوعی به‌اندازه کافی انگیزه دارند تا مدل‌های خود را به شکل ایمن توسعه دهند و برای رسیدن به این هدف نیازی به کاهش هماهنگ‌شده سرعت توسعه AI میان شرکت‌ها وجود ندارد.
این اظهارات در شرایطی مطرح شده که طی روزهای اخیر بحث درباره خطرات احتمالی هوش مصنوعی پیشرفته شدت گرفته است. مدیران شرکت‌هایی مانند Anthropic و OpenAI از ضرورت کاهش سرعت توسعه مدل‌های پیشرفته و ایجاد سازوکارهای مشترک برای مدیریت ریسک‌ها صحبت کرده‌اند، اما موضع زاکربرگ بر مسئولیت‌پذیری مستقل هر شرکت و نقش رقابت بازار تأکید دارد.
زاکربرگ با کاهش هماهنگ‌شده سرعت توسعه AI مخالف است
زاکربرگ می‌گوید شرکت‌های هوش مصنوعی به دلیل فشار رقابتی و همچنین مسئولیت حقوقی خود، انگیزه کافی دارند تا محصولاتشان را با ملاحظات ایمنی توسعه دهند.
از نگاه مدیرعامل متا، اگر یک شرکت محصول هوش مصنوعی ناایمن یا غیرقابل اعتماد عرضه کند، نه‌تنها با پیامدهای حقوقی مواجه خواهد شد، بلکه اعتماد کاربران و جایگاه تجاری خود را نیز از دست می‌دهد. بنابراین، شرکت‌ها بدون نیاز به توافقی برای کاهش سرعت توسعه، انگیزه‌هایی برای سرمایه‌گذاری روی ایمنی دارند.
این دیدگاه در نقطه مقابل پیشنهادهایی قرار می‌گیرد که خواستار هماهنگی میان آزمایشگاه‌های بزرگ AI برای کنترل سرعت پیشرفت مدل‌های پیشرفته هستند.
اختلاف نظر زاکربرگ با مدیران OpenAI و Anthropic
داریو آمودی، مدیرعامل Anthropic، اخیراً خواستار کاهش سرعت توسعه قابلیت‌های مدل‌های هوش مصنوعی شده و پیشنهاد کرده است شرکت‌های بزرگ برای ارزیابی ریسک‌های مدل‌های پیشرفته با یکدیگر همکاری کنند.
سم آلتمن، مدیرعامل OpenAI، نیز از ایده افزایش هماهنگی برای ایمنی هوش مصنوعی حمایت کرده است. هم‌زمان، OpenAI، Anthropic و Google DeepMind درباره همکاری در زمینه ایمنی AI گفت‌وگو کرده‌اند؛ هرچند رویترز اعلام کرده بود این گزارش را به‌طور مستقل تأیید نکرده است.
در مقابل، زاکربرگ معتقد است شرکت‌ها می‌توانند به‌صورت مستقل اقدامات لازم را انجام دهند و الزاماً به یک توافق گسترده برای کاهش سرعت توسعه نیاز ندارند.
تأخیر Meta در عرضه Muse به‌عنوان نمونه ایمنی
زاکربرگ برای توضیح رویکرد متا به موضوع ایمنی، به تصمیم این شرکت برای تأخیر در عرضه عامل هوش مصنوعی Muse اشاره کرده است.
Meta پیش از عرضه این سیستم، برخی مشکلات امنیتی و قابلیت اطمینان آن را بررسی کرد و انتشار محصول را به تعویق انداخت تا سازوکارهای ایمنی آن تقویت شود. زاکربرگ این اقدام را نمونه‌ای از تصمیم‌گیری مستقل یک شرکت برای افزایش ایمنی محصول می‌داند.
به گفته او، چنین اقداماتی نشان می‌دهد شرکت‌های هوش مصنوعی می‌توانند حتی بدون توافق جمعی نیز سرعت عرضه محصولات خود را در صورت مشاهده ریسک کاهش دهند.
ارزیابی مستقل می‌تواند نقش مهمی داشته باشد
با وجود مخالفت با کاهش هماهنگ‌شده سرعت توسعه، زاکربرگ از استفاده از ارزیاب‌های مستقل برای بررسی ایمنی مدل‌های هوش مصنوعی حمایت کرده است.
این موضوع به یکی از محورهای اصلی بحث درباره آینده ایمنی AI تبدیل شده است؛ زیرا با افزایش قدرت مدل‌ها، ارزیابی عملکرد و خطرات آنها تنها توسط تیم‌های داخلی شرکت سازنده می‌تواند با چالش‌هایی همراه باشد.
بر اساس گزارش رویترز، زاکربرگ استفاده از ارزیاب‌های مستقل را یکی از رویه‌های مناسب در صنعت می‌داند، در حالی که درباره میزان و شکل مداخله دولت‌ها و ایجاد قوانین جدید همچنان اختلاف نظر وجود دارد.
رقابت و ایمنی؛ دو رویکرد متفاوت در صنعت AI
بحث اخیر نشان می‌دهد شرکت‌های بزرگ فناوری درباره نحوه مدیریت ریسک هوش مصنوعی به یک دیدگاه مشترک نرسیده‌اند.
گروهی از مدیران صنعت معتقدند سرعت توسعه مدل‌های پیشرفته باید با پیشرفت سازوکارهای ایمنی هماهنگ شود و شرکت‌ها باید برای این موضوع همکاری بیشتری داشته باشند. در مقابل، دیدگاه زاکربرگ بر این اساس است که رقابت، مسئولیت حقوقی و اهمیت اعتماد کاربران می‌تواند شرکت‌ها را به سمت توسعه ایمن‌تر سوق دهد.
این اختلاف نظر در شرایطی شکل گرفته که سرمایه‌گذاری شرکت‌های فناوری روی مدل‌های قدرتمندتر و زیرساخت‌های هوش مصنوعی همچنان ادامه دارد و هم‌زمان نگرانی‌ها درباره ریسک‌های مدل‌های آینده افزایش یافته است. بنابراین، بحث درباره اینکه ایمنی AI باید از طریق همکاری داوطلبانه، ارزیابی مستقل یا مقررات دولتی دنبال شود، احتمالاً همچنان یکی از موضوعات اصلی صنعت فناوری خواهد بود.
