خلاصه خبر

• گوگل از مدل هوش مصنوعی جمنای ۴ کربن رونمایی کرده است؛ مدلی که برای برنامه‌نویسی پیشرفته، انجام مأموریت‌های طولانی و شناسایی و رفع آسیب‌پذیری‌های نرم‌افزاری طراحی شده است.

• این مدل در سه آزمون امنیت سایبری، به‌ترتیب برای شناسایی آسیب‌پذیری، بررسی امکان سوءاستفاده و اصلاح نقص‌ها، امتیازهای ۸۸٫۲، ۵۴٫۸ و ۷۱ درصد را کسب کرده است.

• دسترسی اولیه به جمنای ۴ کربن به گروه محدودی از متخصصان دفاع سایبری اختصاص یافته و زمان عرضه عمومی آن هنوز مشخص نیست.

• قیمت اولیه استفاده از مدل از طریق رابط برنامه‌نویسی گوگل، برای هر یک میلیون توکن ورودی ۲ دلار و برای هر یک میلیون توکن خروجی ۱۰ دلار است.

گوگل با معرفی جمنای ۴ کربن، توسعه مدل‌های هوش مصنوعی برای مهندسی نرم‌افزار و دفاع سایبری را وارد مرحله تازه‌ای کرده است. این مدل علاوه بر نوشتن کد، برای دنبال‌کردن وظایف پیچیده در بازه‌های طولانی، یافتن منشأ خطاها و پیشنهاد اصلاحات امنیتی طراحی شده؛ با این حال، دسترسی به آن فعلاً محدود است و بخشی از نتایج عملکردی اعلام‌شده نیز به ارزیابی‌های خود گوگل متکی است.

مدلی برای حل مسائل پیچیده برنامه‌نویسی

گوگل دیپ‌مایند روز چهارشنبه، ۲۸ اکتبر ۲۰۲۶، جمنای ۴ کربن را معرفی کرد. این مدل دو هفته پس از جمنای ۴ آرگون عرضه شده و به گفته شرکت، در کدنویسی، اجرای وظایف عامل‌محور و دفاع سایبری عملکرد بهتری دارد.

یکی از قابلیت‌های مورد تأکید گوگل، توانایی مدل در پیگیری پروژه‌های چندمرحله‌ای است. به گفته این شرکت، کربن در آزمایش‌های داخلی توانسته است برای چند روز روی مسائل پیچیده مهندسی کار کند، پس از مواجهه با بن‌بست مسیرهای دیگری را بیازماید و خطاهای ظریف را در مجموعه‌های بزرگ کد شناسایی و اصلاح کند.

چنین وظایفی صرفاً به تولید کد محدود نیستند؛ مدل باید مسئله را به مراحل کوچک‌تر تقسیم کند، نتیجه هر اقدام را بررسی کند و در صورت نیاز، راهبرد خود را تغییر دهد.

کربن در نسخه پنجم شاخص هوش مصنوعی Artificial Analysis امتیاز ۵۹ را کسب کرده و در رتبه نخست این ارزیابی قرار گرفته است. همچنین امتیاز آن در WebDev Arena به ۱۷۶۹ رسیده و جایگاه چهارم را به دست آورده است. این شاخص‌ها جنبه‌های متفاوتی از عملکرد مدل را می‌سنجند و نتایج آن‌ها به‌تنهایی تضمین‌کننده عملکرد مشابه در همه کاربردهای واقعی نیستند.

سه مرحله در شناسایی و رفع آسیب‌پذیری‌ها

گوگل توانایی‌های امنیتی کربن را در سه مرحله توضیح داده است: یافتن نقص، بررسی امکان سوءاستفاده از آن و ارائه اصلاحیه برای رفع مشکل.

• شناسایی آسیب‌پذیری: کربن در آزمون SEC-bench Pro امتیاز ۸۸٫۲ درصد را کسب کرده است. این آزمون توانایی شناسایی نقص‌های امنیتی در نرم‌افزارهای واقعی را ارزیابی می‌کند.

• بررسی امکان سوءاستفاده: امتیاز مدل در ExploitGym به ۵۴٫۸ درصد رسیده است. این آزمون بررسی می‌کند که آیا یک آسیب‌پذیری قابلیت بهره‌برداری عملی دارد یا خیر.

• اصلاح نقص: کربن در آزمون CWE-bench متعلق به شرکت Collinear امتیاز ۷۱ درصد را کسب کرده است. این ارزیابی بر توانایی ارائه اصلاحیه برای برطرف‌کردن منشأ آسیب‌پذیری تمرکز دارد.

گوگل اعلام کرده است که در ارزیابی‌های داخلی، نرخ موفقیت کربن در تولید کد امن بیش از دو برابر جمنای ۴ آرگون بوده است. تیم مرورگر کروم نیز گزارش داده که این مدل در تولید اصلاحیه‌های باکیفیت، بیش از ۱۰ برابر بهتر از یک مدل پیشرفته متعلق به آزمایشگاهی دیگر عمل کرده است. با این حال، گوگل نام مدل رقیب و جزئیات کامل روش مقایسه را منتشر نکرده است.

نکته مهم آن است که آزمون‌های خارجی امنیت سایبری مورد استناد گوگل بدون فعال‌بودن لایه‌های حفاظتی مدل انجام شده‌اند. بنابراین، نتایج این آزمون‌ها را نباید معادل عملکرد مدل در محیط عملیاتی مجهز به سازوکارهای ایمنی دانست.

افزایش توانایی همراه با کنترل‌های حفاظتی

گوگل می‌گوید در توسعه کربن، علاوه بر افزایش توانایی‌های فنی، بر کاهش رفتارهای نامطلوب نیز تمرکز کرده است. این مدل از مجموعه حفاظتی چندلایه جمنای ۴ آرگون بهره می‌برد که آموزش ایمنی، مقابله با سوءاستفاده، مقاومت در برابر تزریق پرامپت و پایش رفتار مدل را در بر می‌گیرد.

بر اساس ارزیابی‌های داخلی شرکت، نرخ موفقیت در تقلب طی آزمون Terminal-Bench 4.0 به صفر درصد رسیده و میزان تلاش برای تقلب ۰٫۴ درصد بوده است. گوگل همچنین از کاهش نزدیک به ۸۰ درصدی هشدارهای شدید ناسازگاری رفتاری در محیط‌های داخلی کدنویسی خبر داده است.

در آزمون مقاومت در برابر تزریق غیرمستقیم پرامپت متعلق به Gray Swan نیز نرخ موفقیت حمله علیه کربن صفر درصد اعلام شده است؛ درحالی‌که این نرخ برای آرگون ۰٫۷ درصد بود. این نتیجه به حملات بررسی‌شده در همان آزمون محدود است و به معنای مصونیت کامل مدل در برابر تمام روش‌های حمله نیست.

گوگل همچنین می‌گوید میزان ادعاهای فاقد پشتوانه در کربن، در مقایسه با آرگون، تقریباً به نصف کاهش یافته است. این شرکت تأکید دارد که مدل برای مدیریت بهتر وظایف پیچیده آموزش دیده تا محدودیت‌های خود را روشن کند و هنگام ناکافی‌بودن شواهد، نتیجه‌ای ساختگی ارائه ندهد.

عرضه محدود و قیمت‌گذاری

گوگل در مرحله نخست، دسترسی به کربن را برای گروهی از متخصصان دفاع سایبری فراهم می‌کند و قصد دارد آن را از طریق برنامه Fairwind به شرکای مورداعتماد بیشتری گسترش دهد. این شرکت اعلام کرده است که در فرایند داوطلبانه دولت آمریکا برای آزمایش مدل‌ها پیش از عرضه نیز مشارکت دارد.

هدف از این عرضه تدریجی، دریافت بازخورد، شناسایی رفتارهای پیش‌بینی‌نشده و اصلاح سازوکارهای حفاظتی پیش از دسترسی گسترده‌تر است. گوگل هنوز تاریخ مشخصی برای عرضه عمومی به توسعه‌دهندگان، کسب‌وکارها و مصرف‌کنندگان اعلام نکرده است.

قیمت مقدماتی استفاده از کربن از طریق رابط برنامه‌نویسی گوگل، برای هر یک میلیون توکن ورودی ۲ دلار و برای هر یک میلیون توکن خروجی ۱۰ دلار تعیین شده است. توکن‌های ورودی ذخیره‌شده در حافظه نهان نیز با تخفیف ۹۵ درصدی نسبت به قیمت ورودی محاسبه می‌شوند. پس از پایان دوره مقدماتی، قیمت‌ها به‌ترتیب به ۴ و ۲۰ دلار افزایش خواهند یافت.

اطلاعات بیشتر

جمنای ۴ کربن در شرایطی معرفی شده است که شرکت‌های بزرگ فناوری به‌دنبال توسعه عامل‌های هوش مصنوعی هستند؛ سامانه‌هایی که به‌جای پاسخ‌گویی صرف به درخواست‌ها، می‌توانند مجموعه‌ای از اقدامات را برای رسیدن به یک هدف دنبال کنند. در حوزه امنیت سایبری، این قابلیت می‌تواند به شناسایی سریع‌تر نقص‌ها و تولید اصلاحیه‌ها کمک کند، اما ارزیابی عملکرد در محیط‌های واقعی، بررسی کیفیت اصلاحات و کنترل دسترسی به قابلیت‌های حساس همچنان اهمیت اساسی دارد.

لینکهای مرتبط

سازنده هوش مصنوعی کلود، برای ورود به بورس آمریکا اقدام کرد

هوش مصنوعی پس از حذف ابزار نظارتی خود، این کار را انکار کرد

عامل هوش مصنوعی متا، آدرس منزل کاربر را بدون اجازه به اشتراک می‌گذارد