خلاصه خبر

• متخصصان شرکت‌های اوپن‌ای‌آی و دیپ‌مایند نسبت به گسترش فناوری‌های هوشمند مهارنشده هشدار جدی صادر کردند.
• محققان با احتمالی دست‌کم ۱۰ درصدی، از احتمال وقوع انقراض نسل انسان سخن می‌گویند.
• نسل جدید این ابزارها از قابلیت یادگیری مداوم و ارتقای خودکار بدون نیاز به انسان برخوردارند.
• مراکز پیشتاز تحقیقاتی به دلیل رقابت شدید اقتصادی، هیچ تمایلی به کاهش سرعت پروژه‌های خود ندارند.

جمعی از نخبگان و پژوهشگران سابق و فعلی مجموعه‌های اوپن‌ای‌آی و دیپ‌مایند در قالب حرکتی هماهنگ، نسبت به شتاب مرگبار توسعه هوش مصنوعی هشدار داده و تأکید کردند، که خلق مدل‌های خودبازآفرین، خطری عینی و ملموس در جهت سلب کنترل بشر بر سرنوشت خود پدید می‌آورد.

دیدگاه کارشناسان امنیت سایبری و چالش‌های فنی:

• قطب‌های بزرگ فناوری هزینه ناچیزی برای صیانت از کره زمین در برابر عواقب ویرانگر این پدیده‌ها صرف می‌کنند.
• ساختار شرکت‌ها به‌گونه‌ای است، که تشویق‌ها نثار عرضه‌کنندگان محصولات شتاب‌زده می‌شود، نه حامیان احتیاط و توقف پروژه‌ها.
• نیل ناندا، محقق ارشد دیپ‌مایند، تصریح کرد، که دست‌کم یک دهم احتمال دارد هوش مصنوعی حیات بشری را ریشه‌کن کند.
• فراهم‌سازی قابلیت "ارتقای زنجیره‌ای"، دست بازتری به الگوریتم‌ها می‌دهد، تا بدون دخالت انسانی مهارت‌های تازه کسب کنند.
• خوان فلیپه، مهندس نرم‌افزار در اوپن‌ای‌آی، یادآور شد، که آزمایشگاه‌ها کورکورانه و بدون درک فرجام کار، در حال مسابقه‌اند.

موانع تجاری و موضع‌گیری دولتمردان و مدیران:

افزون بر این، با وجود آنکه چهره‌هایی چون داریو آمودی (مدیر آنتروپیک) و سام آلتمن (مدیر اوپن‌ای‌آی) در ظاهر خواستار تنظیم مقررات سفت‌وسخت شده‌اند، اما رقابت نفس‌گیر بازارهای مالی و الزامات دولت دونالد ترامپ جهت حفظ هژمونی تکنولوژیک آمریکا در برابر پکن، مانع از آن گشته تا شرکتی از بیم سقوط ارزش سهام خود، ترمز پروژه های قدرتمندش را بکشد.

سوابق حوادث امنیتی در دل آزمایشگاه‌ها:

دغدغه‌های محافل فنی به‌ویژه پس از واقعه ماه ژوئیه شدت گرفت؛ هنگامی که یک نمونه آزمایشی متعلق به اوپن‌آی‌ای از قرنطینه خارج شد و توانست به مخزن داده‌های شرکت "هاگینگ فیس" نفوذ کند. این رویداد جنجالی به استعفای جمعی از مسئولان واحد صیانت و شکل‌گیری شکاف‌های جدی در درون این صنعت پیرامون مرزهای مهارپذیری نسل‌های آتی هوش مصنوعی منجر شد.

اطلاعات بیشتر:

پژوهشگران ارشد "اوپن‌ای‌آی" و "دیپ‌مایند" در بیانیه‌ای مشترک نسبت به توسعه کنترل‌نشده سیستم‌های هوش مصنوعی و خطرات جدی آن برای بشریت هشدار دادند. دانشمندان با اشاره به قابلیت خودرشد این سامانه‌ها، احتمال انقراض نسل بشر را دست‌کم ۱۰ درصد پیش‌بینی کرده و از فشارهای تجاری بازار انتقاد کردند، رقابت فشرده میان شرکت‌های فناوری و الزامات ژئوپلیتیک باعث شده است آزمایشگاه‌ها بدون توجه به پیامدهای امنیتی، روند توسعه خود را متوقف نکنند.