رونمایی گوگل از هوش مصنوعی امنیتی جدید / مدلی که چند روز مستقل کدنویسی می‌کند

گوگل از مدل هوش مصنوعی جدیدی به نام «جمنای ۴ کربن» رونمایی کرده است که می‌تواند آسیب‌پذیری‌های نرم‌افزاری را شناسایی کند، برای رفع آنها وصله‌های امنیتی بسازد و وظایف پیچیده مهندسی را که ممکن است چند روز طول بکشند، به‌صورت خودکار انجام دهد. این مدل در آزمونی برای شناسایی آسیب‌پذیری‌های نرم‌افزارهای واقعی، امتیاز ۸۸.۲ درصد را کسب کرده است. همچنین در آزمون بررسی امکان سوءاستفاده از آسیب‌پذیری‌ها به امتیاز ۵۴.۸ درصد و در آزمون تعمیر نقص‌های امنیتی به امتیاز ۷۱ درصد رسیده است. گوگل مدعی است این نتایج از عملکرد مدل‌های رقیب بهتر است. معرفی کربن در حالی انجام شده که تنها ۲ هفته از عرضه مدل پیشرفته قبلی این شرکت، «جمنای ۴ آرگون»، می‌گذرد و مدل جدید در زمینه برنامه‌نویسی، استدلال، امنیت سایبری و اجرای مستقل وظایف بهبود یافته است.برخلاف دستیارهای معمول هوش مصنوعی که به درخواست‌های جداگانه پاسخ می‌دهند، کربن می‌تواند مجموعه‌ای از مراحل پیچیده را با استفاده از ابزارهای مختلف و تصمیم‌گیری مستقل پیش ببرد. گوگل می‌گوید تیم‌های داخلی این شرکت مشاهده کرده‌اند که مدل برای چند روز روی مسائل مهندسی دشوار کار می‌کند، علت خطاهای نرم‌افزاری را پیدا می‌کند و در بخش‌های گسترده کد، راه‌حل ارائه می‌دهد؛ هرچند این ادعاها هنوز به‌طور مستقل تأیید نشده‌اند.

کربن در آزمایش‌های داخلی گوگل، بیش از ۲ برابر مدل آرگون در تولید کد امن موفق بوده و به گفته تیم کروم، عملکرد آن در تولید وصله‌های امنیتی باکیفیت بیش از ۱۰ برابر یک مدل پیشرفته رقیب بوده است؛ نام این مدل اعلام نشده است. کربن همچنین در نسخه ۵ شاخص هوش مصنوعی «اَنالیز هوش مصنوعی» با امتیاز ۵۹ در رتبه نخست قرار گرفته و در ارزیابی توسعه وب نیز با کسب امتیاز ۱۷۶۸، در جایگاه چهارم قرار گرفته است. گوگل بهبودهایی در انجام وظایف علمی، درک هم‌زمان انواع مختلف داده و توسعه کامل وب‌سایت‌ها را نیز برای این مدل گزارش کرده است.گوگل اعلام کرده است که کربن در آزمایش‌های داخلی، ادعاهای بدون پشتوانه را در مقایسه با آرگون حدود ۵۰ درصد کاهش داده و هشدارهای مربوط به ناهماهنگی شدید رفتار مدل نیز در محیط‌های برنامه‌نویسی زنده نزدیک به ۸۰ درصد کمتر شده است. این شرکت همچنین مدعی شده کربن در آزمون تزریق غیرمستقیم دستورهای مخرب متعلق به «گری سوان» نرخ موفقیت حمله صفر درصدی داشته، در حالی که این رقم برای آرگون ۰.۷ درصد بوده است؛ با این حال، نتایج چنین آزمون‌هایی به معنای مصونیت کامل مدل در برابر دست‌کاری نیست. گوگل در مرحله نخست دسترسی به کربن را به گروهی منتخب از متخصصان امنیت سایبری محدود کرده و قصد دارد از طریق برنامه «فِروایند» آن را در اختیار شرکای مورد اعتماد بیشتری قرار دهد.

این مدل همچنین در فرایند داوطلبانه ارزیابی مدل‌های هوش مصنوعی پیش از انتشار توسط دولت آمریکا مشارکت دارد. عرضه گسترده‌تر برای توسعه‌دهندگان، کسب‌وکارها و کاربران عادی در آینده برنامه‌ریزی شده، اما تاریخ دقیقی برای آن اعلام نشده است. قیمت اولیه کربن مشابه آرگون خواهد بود: ۲ دلار برای هر یک میلیون توکن ورودی و ۱۰ دلار برای هر یک میلیون توکن خروجی، با ۹۵ درصد تخفیف برای توکن‌های ورودی ذخیره‌شده. محدود کردن دسترسی اولیه نیز به این دلیل است که چنین فناوری‌ای هم می‌تواند به شناسایی و رفع نقص‌های امنیتی کمک کند و هم در صورت سوءاستفاده، برای حملات سایبری به کار گرفته شود. منبع: فارس