جفری هینتون: خطر نابودی بشر با هوش مصنوعی ۱۰ تا ۲۰ درصد است
خلاصه خبر
- هینتون می‌گوید پیش‌بینی‌های قدیمی درباره چند دهه زمان برای رسیدن هوش مصنوعی به سطحی فراتر از انسان، دیگر قابل اتکا نیست.
- او هشدار داده است که توسعه خودکار هوش مصنوعی می‌تواند سرعت پیشرفت این فناوری را به‌طور چشمگیری افزایش دهد.
- جعل محتوای واقعی، بیکاری گسترده و استفاده نظامی از هوش مصنوعی از دیگر نگرانی‌های اوست.
- هینتون خواستار قانون‌گذاری، افزایش پژوهش‌های ایمنی و نظارت بیشتر دولت‌ها بر توسعه سیستم‌های پیشرفته شده است.
جفری هینتون، از پیشگامان هوش مصنوعی و برنده جایزه نوبل فیزیک ۲۰۲۴، خطر نابودی بشر در نتیجه توسعه این فناوری را ۱۰ تا ۲۰ درصد برآورد کرده است. او این رقم را تخمینی شخصی می‌داند و معتقد است سرعت پیشرفت هوش مصنوعی، ضرورت ایجاد سازوکارهای ایمنی و نظارتی را افزایش داده است.
پیش‌بینی‌های قدیمی دیگر قابل اتکا نیستند
هینتون که از چهره‌های تأثیرگذار در توسعه شبکه‌های عصبی و یادگیری ماشین است، در سال‌های اخیر بارها درباره خطرات هوش مصنوعی هشدار داده است.
او معتقد است پیش‌بینی‌هایی که رسیدن هوش مصنوعی به توانایی‌هایی فراتر از انسان را به ۳۰ تا ۵۰ سال آینده موکول می‌کردند، دیگر قابل اتکا نیستند.
به گفته هینتون، انسان تاکنون با موجودی باهوش‌تر از خود روبه‌رو نشده است و به همین دلیل، تجربه تاریخی قابل اتکایی برای پیش‌بینی رفتار سیستم‌هایی که ممکن است از انسان باهوش‌تر شوند وجود ندارد.
«انفجار هوش» چگونه رخ می‌دهد؟
یکی از نگرانی‌های هینتون، احتمال وقوع «انفجار هوش» است؛ سناریویی که در آن سیستم‌های هوش مصنوعی بخش بیشتری از فرایند تحقیق و توسعه خود را انجام می‌دهند و در نتیجه، سرعت پیشرفت آنها به‌شدت افزایش می‌یابد.
در چنین شرایطی، پیشرفت‌هایی که در حالت عادی ممکن است سال‌ها زمان ببرند، می‌توانند در مدت بسیار کوتاه‌تری رخ دهند. نگرانی اصلی این است که سرعت توسعه سیستم‌ها از توانایی انسان و نهادهای دولتی برای نظارت و واکنش به آنها پیشی بگیرد.
هینتون تأکید دارد که وقوع چنین سناریویی قطعی نیست، اما احتمال آن به اندازه‌ای جدی است که باید از هم‌اکنون برای پیامدهای احتمالی آن آماده شد.
هوش مصنوعی می‌تواند واقعیت را مخدوش کند
هینتون در کنار خطرات بلندمدت، درباره پیامدهای فوری‌تر این فناوری نیز هشدار داده است.
او معتقد است پیشرفت مدل‌های زبانی و فناوری تولید و دستکاری صدا و تصویر، تشخیص محتوای واقعی از جعلی را دشوارتر کرده و می‌تواند زمینه سوءاستفاده سیاسی و اجتماعی را فراهم کند.
به گفته هینتون، افراد مخرب و حکومت‌های سرکوبگر می‌توانند از این فناوری برای دستکاری افکار عمومی و تضعیف فرایندهای دموکراتیک استفاده کنند.
از سوی دیگر، خودکار شدن فعالیت‌های اقتصادی می‌تواند شمار زیادی از مشاغل را تحت تأثیر قرار دهد؛ موضوعی که هینتون درباره پیامدهای آن برای بازار کار نیز هشدار داده است.
نگرانی از کاربرد نظامی
استفاده نظامی از هوش مصنوعی یکی دیگر از نگرانی‌های هینتون است. او درباره توسعه سیستم‌های تسلیحاتی خودکار هشدار داده و بر ضرورت همکاری بین‌المللی برای کنترل کاربردهای پرخطر این فناوری تأکید کرده است.
به اعتقاد او، رقابت کشورها و شرکت‌های بزرگ در حوزه نظامی می‌تواند کنترل سیستم‌های هوشمند را دشوارتر کند و خطر استفاده از فناوری‌هایی مانند «ربات‌های قاتل» را افزایش دهد.
هینتون خواستار توقف توسعه نیست
هینتون خواستار توقف کامل توسعه هوش مصنوعی نیست، بلکه بر ایجاد توازن میان توسعه توانایی‌های این فناوری و پژوهش درباره ایمنی آن تأکید دارد.
او خواستار نقش فعال‌تر دولت‌ها در نظارت بر شرکت‌های هوش مصنوعی، وضع مقررات برای سیستم‌های قدرتمند و اختصاص منابع بیشتر به پژوهش درباره کنترل و ایمنی این فناوری است.
هینتون؛ یکی از چهره‌های اصلی هوش مصنوعی
جفری هینتون در سال ۱۹۴۷ در لندن متولد شد و از دانشمندان برجسته حوزه شبکه‌های عصبی مصنوعی و یادگیری ماشین است. او سال‌ها در دانشگاه تورنتو فعالیت کرد و از ۲۰۱۳ تا ۲۰۲۳ نیز با گوگل همکاری داشت.
هینتون در سال ۲۰۲۴ به همراه جان هاپفیلد جایزه نوبل فیزیک را برای دستاوردهای بنیادی در یادگیری ماشین با شبکه‌های عصبی مصنوعی دریافت کرد.
او در سال ۲۰۲۳ از گوگل کناره‌گیری کرد و پس از آن با آزادی بیشتری درباره خطرات هوش مصنوعی هشدار داد.
اطلاعات بیشتر
هینتون در عین هشدار درباره خطرات هوش مصنوعی، این فناوری را دارای ظرفیت‌های مهمی برای پیشرفت در حوزه‌هایی مانند پزشکی، آموزش و افزایش بهره‌وری می‌داند. نگرانی اصلی او، توسعه سریع سیستم‌های پیشرفته بدون ایجاد سازوکارهای کافی برای ایمنی و کنترل آنهاست.
لینکهای مرتبط
اینترپل: هوش مصنوعی دامنە جرایم سایبری را گسترش دادە است
دانشمندان نسبت به ساخت هوش مصنوعی خودارتقا هشدار دادند
اوپن‌ای‌آی (OpenAI) درباره رفتار عامل‌های هوش مصنوعی هشدار داد
تحقیق استرالیا درباره نفوذ عامل هوش مصنوعی OpenAI به پورتال سلامت
درخواست پیشگامان هوش مصنوعی از سازمان ملل برای تدابیر حفاظتی جهانی
۱ ساعت پیش