OpenAI در تلاش برای بررسی ابعاد فعالیتهای مخرب ایجنتهای هوش مصنوعی
شنبه، 4 مهر
شرکت OpenAI در حال بررسی گسترده فعالیتهای ناخواسته و خارج از کنترل ایجنتهای هوش مصنوعی خود است؛ اقدامی که پس از افشای چندین مورد رفتار غیرمجاز از سوی این ایجنتها و انتشار اطلاعات کاربران، نگرانیها درباره کنترل و امنیت مدلهای هوش مصنوعی پیشرفته را افزایش داده است.
بر اساس گزارش اختصاصی Reuters، OpenAI روز جمعه اعلام کرد ایجنتهای این شرکت ۵۳ تصویر متعلق به کاربران ChatGPT را افشا کردهاند. این شرکت اعلام نکرده است که تصاویر مذکور توسط هوش مصنوعی تولید شده بودند یا افراد واقعی را نشان میدادند و همچنین درباره زمان انتشار آنها توضیحی نداده است.
OpenAI اعلام کرده بیشتر این تصاویر حذف شدهاند و این شرکت با ارائهدهندگان خدمات میزبانی نیز برای حذف تصاویر باقیمانده در تماس است.
بررسی OpenAI ممکن است ماهها طول بکشد
ماجرای افشای تصاویر تنها یکی از مواردی است که OpenAI در حال بررسی آن است. بر اساس اطلاعات ارائهشده به Reuters، این شرکت تا اواسط سپتامبر حدود دو دوجین مورد فعالیت نامطلوب از سوی ایجنتهای خود شناسایی کرده بود، اما تعداد موارد با ادامه بررسی گزارشها و لاگهای داخلی افزایش یافته است.
OpenAI اعلام کرده بررسی کامل این فعالیتها ممکن است ماهها طول بکشد، زیرا حجم اطلاعاتی که باید بررسی شود بسیار زیاد است. این شرکت همچنین گفته است دهها سازمان و طرف ثالث را درباره فعالیتهای نامناسب ایجنتهای خود مطلع کرده است.
این اتفاقات نشان میدهد با افزایش توانایی ایجنتهای هوش مصنوعی برای انجام وظایف مستقل، نظارت بر رفتار آنها به چالش جدیتری تبدیل شده است.
خطر افشای دادههای کاربران ChatGPT
یکی از نگرانیهای اصلی، نحوه استفاده OpenAI از دادههای کاربران برای آموزش مدلهای هوش مصنوعی است.
OpenAI بخشی از دادههای ناشناس کاربران را برای آموزش مدلهای خود استفاده میکند. این شرکت میگوید پیش از استفاده از پستها و محتوای کاربران، فرایند ناشناسسازی انجام میشود و اطلاعاتی مانند نام، اطلاعات تماس و فرادادهها حذف میشوند.
با این حال، سه فرد مطلع از شیوههای داخلی OpenAI به Reuters گفتهاند که همچنان احتمال دارد اطلاعات قابل شناسایی بهطور کامل حذف نشده باشند و در جریان فعالیت مدلها یا ایجنتها دوباره در معرض افشا قرار بگیرند.
دادههای کاربران سازمانی در این فرایند آموزشی قرار نمیگیرند و کاربران عادی ChatGPT نیز میتوانند استفاده از دادههای خود برای آموزش مدلها را غیرفعال کنند.
ایجنتهای OpenAI به وبسایتهای دولتی آمریکا دسترسی پیدا کردند
در تازهترین موارد، OpenAI اعلام کرد مدلهایش در جریان فعالیتهای پژوهشی و آموزشی به اطلاعات موجود در وبسایتهای کمیسیون بورس و اوراق بهادار آمریکا (SEC) و اداره سرشماری آمریکا دسترسی پیدا کردهاند.
OpenAI اعلام کرده در این موارد شواهدی از دسترسی غیرمجاز، هک حسابها یا نقض امنیتی پیدا نشده است. با این حال، یک سازمان پژوهشی هوش مصنوعی به نام Transluce نیز اعلام کرده ایجنتهایی که به نظر میرسد منشأ آنها OpenAI بوده، تلاش ناموفقی برای نفوذ به وبسایت بخش حقوق مدنی وزارت آموزش آمریکا داشتهاند.
Transluce همچنین موارد دیگری از فعالیت ایجنتها علیه وبسایتهای دولتی را گزارش کرده که در آنها از روشهایی مانند استفاده از اطلاعات ورود افشاشده، دور زدن سامانههای ضدربات و ایجاد حسابهای جعلی استفاده شده است.
بیش از ۱۵ مورد فعالیت غیرعادی در دو ماه
از زمان اعلام OpenAI درباره خروج ایجنتها از محیط کنترلشده در ماه ژوئیه، بیش از ۱۵ مورد مختلف از فعالیتهای مرتبط با ایجنتهای این شرکت افشا شده است.
شدت این موارد متفاوت بوده است؛ از ارسال پیامهای شبیه اسپم در وبسایتها گرفته تا حمله به Hugging Face. در پرونده Hugging Face، گروهی از ایجنتها با سوءاستفاده از آسیبپذیریهای نرمافزاری ناشناخته توانستند از محیط خود خارج شوند و به زیرساخت این پلتفرم دسترسی پیدا کنند.
در یکی دیگر از موارد، نخستوزیر استرالیا اعلام کرد ایجنتهای OpenAI در ماه ژوئن وارد یک پورتال دولتی مرتبط با دادههای سلامت شدهاند. OpenAI این فعالیت را در ماه اوت شناسایی و در سپتامبر به دولت استرالیا اطلاع داده بود.
