اوپنایآی (OpenAI) درباره رفتار عاملهای هوش مصنوعی هشدار داد
خلاصه خبر
- شرکت اوپنایآی (OpenAI) دهها دولت، دانشگاه و نهاد عمومی را درباره فعالیت غیرمنتظره برخی عاملهای هوش مصنوعی خود مطلع کرده است.
- در برخی موارد، این عاملها ممکن است کنترلهای امنیتی یا محدودیتهای دسترسی سرویسهای آنلاین را دور زده باشند.
- بررسی اوپنایآی همچنان ادامه دارد و این شرکت میگوید تکمیل آن ممکن است ماهها زمان ببرد.
- این شرکت همچنین ۵۳ مورد انتقال تصاویر کاربران ChatGPT به سایتهای دیگر را شناسایی کرده است.
شرکت اوپنایآی (OpenAI) دهها دولت، دانشگاه و نهاد عمومی را درباره فعالیت برخی عاملهای هوش مصنوعی خود مطلع کرده است. فعالیتهایی که در بعضی موارد شامل دور زدن کنترلهای امنیتی یا تأثیرگذاری نامطلوب بر وبسایتها و خدمات آنلاین بوده است. این شرکت اعلام کرده بررسی ابعاد کامل این موارد همچنان ادامه دارد.
بررسی موارد جدید
به گزارش رویترز، شرکت اوپنایآی در جریان بررسی گسترده فعالیت عاملهای هوش مصنوعی خود، تاکنون حدود دو دوجین مورد رفتار نامطلوب را شناسایی کرده است؛ با این حال، شمار موارد با بررسی گزارشها و دادههای ثبتشده داخلی همچنان در حال افزایش است.
این موارد طیف مختلفی دارند؛ از تلاش برای عبور از کنترلهای دسترسی و استفاده از اطلاعات ورود در دسترس عمومی گرفته تا ایجاد اختلال در خدمات آنلاین یا انتشار محتوای ناخواسته در وبسایتهای شخص ثالث.
تأکید شرکت اوپنایآی بر تفاوت میان فعالیت نامطلوب و هک
اوپنایآی اعلام کرده اطلاعرسانی به یک سازمان لزوماً به معنای وقوع یک نفوذ امنیتی جدی نیست. برخی عاملها در جریان انجام وظایف پژوهشی به وبسایتهای دولتی، دانشگاهی و عمومی مراجعه کردهاند و در بسیاری از موارد، با اطلاعاتی مواجه شدهاند که از ابتدا بهصورت عمومی در دسترس بوده است.
این شرکت گفته در بررسی برخی وبسایتهای دولتی آمریکا، از جمله سامانههای کمیسیون بورس و اوراق بهادار و اداره سرشماری، شواهدی از دسترسی غیرمجاز به حسابها یا اطلاعات غیرعمومی پیدا نکرده است.
انتقال تصاویر کاربران
یکی از موارد مهم کشفشده، انتقال ۵۳ تصویر متعلق به کاربران ChatGPT به سایتهای میزبانی تصویر بوده است. اوپنایآی این اقدام را نامناسب دانسته و اعلام کرده بیشتر این تصاویر از سایتهای مقصد حذف شدهاند.
این شرکت درباره اینکه تصاویر مربوط به افراد واقعی بوده یا توسط هوش مصنوعی تولید شدهاند و همچنین زمان دقیق انتشار آنها، جزئیات بیشتری ارائه نکرده است.
«اسپم عاملی»؛ رفتار جدید عاملها
شرکت اوپنایآی همچنین نوع دیگری از رفتار ناخواسته را شناسایی کرده که آن را «اسپم عاملی» نامیده است. در این موارد، عاملهای هوش مصنوعی بدون درخواست مستقیم، محتوا را در وبسایتهای شخص ثالث منتشر کردهاند.
به گفته اوپنایآی این شرکت اکنون در حال بررسی این است که چنین رفتارهایی چگونه رخ داده و چه سازوکارهایی برای جلوگیری از تکرار آنها لازم است.
بررسی ممکن است ماهها ادامه داشته باشد
این تحقیقات پس از حادثهای آغاز شد که در آن عاملهای هوش مصنوعی شرکت اوپنایآی در جریان یک آزمایش بهطور ناخواسته به سامانههای Hugging Face دسترسی پیدا کردند. شرکت اوپنایآی اکنون با بررسی حجم گستردهای از دادههای ثبتشده، در تلاش است دامنه واقعی فعالیتهای عاملهای خود را مشخص کند.
این شرکت اعلام کرده بررسی کامل این موارد ماهها زمان خواهد برد و اطلاعرسانی به سازمانهایی که احتمال میرود تحتتأثیر قرار گرفته باشند، ادامه خواهد داشت.
لینکهای مرتبط
https://channel8.com/persian/news/56596
https://channel8.com/persian/news/56581
۱ ساعت پیش