پاپ لئو درباره خطر نابودی ناشی از هوش مصنوعی هشدار داد
پنجشنبه، 2 مهر
واتیکان بار دیگر درباره خطرات احتمالی توسعه هوش مصنوعی هشدار داده و پاپ لئو، رهبر کاتولیکهای جهان، موضوع ایمنی و کنترل این فناوری را به یکی از محورهای مهم دوران پاپی خود تبدیل کرده است. مقامهای واتیکان میگویند سرعت تحول هوش مصنوعی میتواند تغییرات اجتماعی و امنیتی گستردهای ایجاد کند که پیامدهای آن بهسادگی قابل پیشبینی نیست.
پاپ لئو در ماه مه خواستار ایجاد قوانین جهانی برای نظارت بر صنعت هوش مصنوعی شده بود و روز پنجشنبه نیز در نشستی در آکادمی علوم پاپی واتیکان، ضمن تأکید بر مزایای احتمالی این فناوری، درباره «خطرات جدید برای امنیت و صلح بینالمللی» هشدار داد. او از رهبران جهان خواست در نظارت بر این فناوری با دقت و مسئولیت عمل کنند.
واتیکان سالهاست درباره خطرات AI هشدار میدهد
نگرانی واتیکان درباره هوش مصنوعی موضوع تازهای نیست. این نهاد از سال ۲۰۱۹ چندین نشست درباره خطرات احتمالی این فناوری برگزار کرده است. پاپ فرانسیس نیز در یکی از این نشستها هشدار داده بود که انتشار اطلاعات نادرست با کمک هوش مصنوعی میتواند به تشدید درگیریها و حتی جنگ منجر شود.
پائولو بنانتی، کشیش و مشاور ارشد واتیکان در زمینه هوش مصنوعی، به رویترز گفت این نگرانیها سالها پیش از هشدارهای اخیر شرکتهای بزرگ فناوری مطرح شدهاند. او تأکید کرد قدرت تحولآفرین هوش مصنوعی میتواند تغییرات اجتماعی بسیار بزرگی ایجاد کند که پیشبینی دقیق آنها دشوار است.
به گفته بنانتی، بحث درباره هوش مصنوعی تنها به توانایی مدلها برای تولید متن، تصویر یا کد محدود نمیشود و پیامدهای گستردهتر این فناوری برای ساختار اجتماعی، امنیت و روابط میان کشورها نیز باید مورد توجه قرار گیرد.
واتیکان خواستار قوانین جهانی برای هوش مصنوعی است
کاردینال پیترو پارولین، دیپلمات ارشد واتیکان، هفته گذشته نیز بر ضرورت ایجاد قوانین بینالمللی برای هوش مصنوعی تأکید کرد. او هشدار داد که کشورها نمیتوانند بهصورت جداگانه با چالشهای این فناوری مقابله کنند و جامعه جهانی به مجموعهای از قواعد مشترک نیاز دارد.
این موضع در حالی مطرح میشود که رقابت میان قدرتهای بزرگ برای توسعه هوش مصنوعی شدت گرفته است. آمریکا و چین بهعنوان دو قطب اصلی این صنعت، علاوه بر کاربردهای تجاری و علمی، در حال توسعه کاربردهای نظامی هوش مصنوعی نیز هستند.
از دید واتیکان، نبود قواعد مشترک میتواند کنترل پیامدهای این فناوری را دشوارتر کند؛ بهخصوص در حوزههایی که تصمیمهای سیستمهای هوش مصنوعی میتوانند مستقیماً بر امنیت انسانها تأثیر بگذارند.
هشدار درباره سلاحهای خودمختار
یکی از مهمترین نگرانیهای پاپ لئو به استفاده از هوش مصنوعی در سامانههای تسلیحاتی خودمختار مربوط میشود. او در نخستین سند مهم خود درباره هوش مصنوعی در ماه مه، هشدار داده بود که برخی از این فناوریهای نظامی عملاً به سطحی از پیچیدگی رسیدهاند که کنترل آنها از توان انسان فراتر میرود.
واتیکان بهطور ویژه نسبت به استفاده از پهپادها و سایر سامانههای مجهز به هوش مصنوعی در جنگها حساس است. بنانتی استفاده از پهپادهای مجهز به AI را با مینهای زمینی مقایسه کرده و استدلال کرده است که هر دو میتوانند پیامدهایی فراتر از کنترل مستقیم انسان داشته باشند. این مقایسه دیدگاه واتیکان است و به معنای یکسان بودن فنی این دو فناوری نیست.
نگرانی درباره سلاحهای خودمختار در ماههای اخیر نیز به یکی از موضوعات مهم بحث جهانی درباره هوش مصنوعی تبدیل شده است؛ بهویژه با افزایش استفاده از سامانههای بدون سرنشین در درگیریهای نظامی.
پاپ لئو: هوش مصنوعی میتواند برای بشریت مفید باشد
با وجود هشدارهای شدید درباره خطرات AI، موضع پاپ لئو صرفاً مخالفت با این فناوری نیست. او در نشست روز پنجشنبه تأکید کرد که هوش مصنوعی میتواند برای بشریت مفید باشد، اما توسعه آن باید به شکلی مدیریت شود که امنیت و صلح بینالمللی را تهدید نکند.
این رویکرد در سند مهم ماه مه او نیز دیده میشود؛ جایی که لئو در کنار هشدار درباره اطلاعات نادرست و کاربردهای نظامی هوش مصنوعی، بر ضرورت هدایت این فناوری در جهت حفظ کرامت انسان تأکید کرده بود.
در نتیجه، محور اصلی موضع واتیکان، توقف کامل هوش مصنوعی نیست، بلکه ایجاد چارچوبهایی برای کنترل ریسکهای آن و اطمینان از باقی ماندن انسان در مرکز تصمیمگیری است.
کلیسای کاتولیک آمریکا نیز کارگروه AI تشکیل داد
نگرانی درباره پیامدهای هوش مصنوعی تنها به واتیکان محدود نمیشود. کنفرانس اسقفهای کاتولیک آمریکا در ۱۶ سپتامبر اعلام کرد که پس از دیدار تعدادی از رهبران خود با مدیران شرکتهای فناوری، یک کارگروه جدید برای بررسی هوش مصنوعی تشکیل داده است.
هدف این کارگروه بررسی راههایی برای اطمینان از استفاده از هوش مصنوعی در خدمت انسان و توجه به خطرات واقعی و فوری این فناوری عنوان شده است.
همزمان، برخی شرکتهای بزرگ هوش مصنوعی نیز درباره ریسکهای توسعه سریع این فناوری هشدار دادهاند. مدیران شرکتهایی مانند Anthropic، OpenAI و xAI در ماههای اخیر از ضرورت توجه بیشتر به ایمنی و کنترل توسعه مدلهای پیشرفته صحبت کردهاند.
هوش مصنوعی؛ از فناوری تجاری تا مسئله امنیت جهانی
موضع اخیر واتیکان نشان میدهد بحث درباره هوش مصنوعی دیگر فقط به شرکتهای فناوری و سرمایهگذاری در این صنعت محدود نیست. دولتها، نهادهای بینالمللی و گروههای مذهبی نیز درباره پیامدهای اجتماعی، نظامی و سیاسی توسعه سریع این فناوری وارد بحث شدهاند.
در همین حال، برخی پژوهشگران و شرکتهای هوش مصنوعی نیز درباره ریسکهای بسیار جدی مدلهای پیشرفته هشدار دادهاند. یک نظرسنجی اخیر Reuters/Ipsos نیز نشان داد ۷۳ درصد از آمریکاییها نگران هستند که شرکتهای هوش مصنوعی اقدامات کافی برای جلوگیری از پیامدهای شدید این فناوری انجام نمیدهند.
پاپ لئو قرار است روز جمعه در مقر یونسکو در پاریس بار دیگر درباره هوش مصنوعی سخنرانی کند. انتظار میرود موضوعاتی مانند حکمرانی جهانی، ایمنی فناوری و تأثیر AI بر صلح و امنیت نیز در این سخنرانی مورد توجه قرار گیرد.
در مجموع، واتیکان تلاش میکند بحث درباره آینده هوش مصنوعی را از یک مسئله صرفاً فناورانه به موضوعی مرتبط با امنیت، صلح، کرامت انسانی و آینده جامعه تبدیل کند؛ در حالی که توسعه این فناوری همچنان با سرعت زیادی ادامه دارد.
