وقتی هوش مصنوعی مایه دردسر سازندگانش می‌شود!

به گزارش ایسنا، شرکت‌های هوش مصنوعی زمان زیادی را صرف می‌کنند تا ما را متقاعد کنند که فناوری آنها ایمن و مطمئن است اما چه اتفاقی می‌افتد وقتی همین شرکت‌ها هدف حملات فزاینده و پیچیده مبتنی بر هوش مصنوعی قرار می‌گیرند؟

به نقل از دیجیتال ترندز، شرکت «آنتروپیک»(Anthropic) که هوش مصنوعی «کلود»(Claude) را توسعه داده، اکنون با این پرسش روبه‌رو شده است. براساس گزارش واشنگتن پست، استارت‌آپ امنیت سایبری «کاثدرال»(Cathedral) آسیب‌پذیری‌هایی را کشف کرده است که به پژوهشگرانش امکان می‌دهد تا به اطلاعات حساس سیستم‌های داخلی آنتروپیک دسترسی پیدا کنند.

پژوهشگران از عوامل هوش مصنوعی برای شناسایی نقاط ورود احتمالی در کمتر از ۱۲ ساعت استفاده کردند. جالب اینجاست که آنها نیازی به کِرَک کردن خود کلود نداشتند. در عوض، آنها از نقاط ضعف برنامه‌های تجاری شخص ثالث که آنتروپیک برای عملیات روزمره از آنها استفاده می‌کند، بهره‌برداری کردند. برنامه آزمایش امنیتی آنتروپیک، یافته‌ها را فاش کرد که به پژوهشگران بیرون اجازه می‌دهد آسیب‌پذیری‌ها را شناسایی کنند و گزارش دهند.

پژوهشگران کاثدرال پس از ورود به سیستم، مسیرهایی را به اطلاعاتی کشف کردند که شرکت‌ها معمولاً می‌خواهند آنها را خصوصی نگه دارند. این اطلاعات شامل جزئیات حقوق کارمندان، پیشنهادات شغلی، رونوشت جلسات و گفت‌وگوهای داخلی درباره مدل‌های پیشرفته هوش مصنوعی آنتروپیک بود. نگران‌کننده‌ترین بخش ماجرا این است که پژوهشگران چگونه به آنجا رسیده‌اند. آنها به جای حمله به زیرساخت اصلی هوش مصنوعی آنتروپیک، نرم‌افزارهای تجاری معمولی مورد استفاده برای وظایف اداری و مدیریت مشتری را هدف قرار دادند.

این نشان می‌دهد حتی شرکت‌هایی که برخی از پیشرفته‌ترین فناوری‌های جهان را توسعه می‌دهند، ممکن است از طریق فناوری‌های روزمره‌ای که کارمندانشان به آنها متکی هستند، در معرض خطر قرار بگیرند. آنتروپیک اذعان داشت که پژوهشگران به تعداد محدودی از سیستم‌های فروش داخلی، منابع انسانی و فناوری اطلاعات دسترسی پیدا کرده‌اند. با وجود این، آنتروپیک تأکید کرد که حادثه گفت‌وگوی مشتریان با کلود، مدل‌های هوش مصنوعی زیربنایی شرکت یا کد منبع و وزن‌های مدل آنها را به خطر نینداخته است. همچنین، این شرکت گفت که سیستم‌های امنیتی آن پیش از ارسال یافته‌های خود توسط کاثدرال، برخی فعالیت‌های مشکوک را شناسایی کرده‌اند. سپس، آنتروپیک دسترسی را مسدود کرده و برنامه‌های آسیب‌دیده را غیرفعال کرده است تا زمانی که فروشندگان آنها آسیب‌پذیری‌ها را برطرف کنند. این شرکت مدعی شده که هیچ مدرکی مبنی بر سوءاستفاده شخص دیگری از همان نقاط ضعف پیدا نکرده است.

این رویداد در مقطعی بسیار حساس برای صنعت هوش مصنوعی رخ می‌دهد؛ دورانی که دولت‌ها به ‌طور فزاینده‌ای نگران محافظت از تحقیقات پیشرفته در حوزه هوش مصنوعی در برابر سرویس‌های اطلاعاتی خارجی و مجرمان سایبری هستند. شرکت کاثدرال که توسط اعضای پیشین طرح «DOGE» دولت آمریکا تأسیس شده، موفق به انعقاد قراردادهای امنیت سایبری فدرال شده و ارزش‌گذاری ۱.۴ میلیارد دلاری را به خود اختصاص داده است. یافته‌های کاثدرال توجه مقامات آمریکایی را نیز جلب کرده‌اند؛ هرچند شرکت آنتروپیک ارزیابی این استارت‌آپ را درباره خطرات احتمالی امنیت ملی رد می‌کند.

یکی دیگر از تمایزهای مهم این است که این یک پژوهش امنیتی مجاز بود، نه مدرکی دال بر حمله موفقیت‌آمیز هکرهای مخرب. آنتروپیک می‌گوید که کاثدرال به طور کامل الزامات برنامه افشای اطلاعات خود را رعایت نکرده است. با وجود این، نادیده گرفتن نگرانی گسترده‌تر دشوار است. با پیشرفت هوش مصنوعی در شناسایی و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری، حتی برنامه‌های تجاری به ظاهر بی‌ضرر نیز می‌توانند به اهداف جذابی تبدیل شوند. برای شرکت‌هایی که سیستم‌های قدرتمند هوش مصنوعی می‌سازند، ایمن‌سازی خود فناوری ممکن است تنها نیمی از نبرد باشد.