چین چگونه آستانه تحمل آمریکا در برابر مخاطرات هوش مصنوعی را تعیین می‌کند؟

به گزارش تجارت نیوز، ژئوپلتیکال مانیتور با انتشار یادداشتی مدعی شد: ماه سپتامبر، داریو آمودی، مدیرعامل شرکت آنتروپیک، خواستار کندتر شدن روند توسعه قدرتمندترین سامانه‌های هوش مصنوعی شد تا شرکت‌ها فرصت بیشتری برای آزمودن رفتار این سامانه‌ها و افزایش قابلیت اطمینان آنها داشته باشند. سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز در سخنرانی خود در شورای امنیت سازمان ملل متحد اعلام کرد که توسعه‌دهندگان نباید مدل‌هایی را آموزش دهند، مگر آنکه شواهد محکمی در اختیار داشته باشند که نشان دهد این مدل‌ها تحت کنترل انسان باقی خواهند ماند. او گفت شرکتش در صورت لزوم، روند توسعه را کند خواهد کرد.

با این حال، تعهد واشنگتن به حفظ برتری آمریکا در حوزه هوش مصنوعی، تصمیم‌گیری درباره این موضوع را پیچیده می‌کند. برنامه اقدام آمریکا در حوزه هوش مصنوعی، سلطه فناورانه را منبعی برای قدرت اقتصادی و نظامی این کشور می‌داند. پیشنهاد آمودی نیز بازتاب‌دهنده همین اولویت است؛ او میزان و دامنه توقف هماهنگ توسعه هوش مصنوعی را به این مسئله پیوند می‌دهد که دموکراسی‌ها بتوانند برتری خود را در برابر چین حفظ کنند یا خیر.

اگر یک دستاورد فناورانه چین، سرمایه گذار آمریکایی را متقاعد کند مدلی را عرضه کند که پیش‌تر آن را بیش از حد خطرناک می‌دانست، سامانه آمریکایی ایمن‌تر نشده؛ بلکه ترس از عقب ماندن در رقابت، پذیرش مخاطرات آن را آسان‌تر کرده است. تصمیم‌گیری درباره عرضه مدل‌ها بر چنین مبنایی، به پیشرفت چین اجازه می‌دهد بر میزان مخاطراتی که آمریکایی‌ها با آن مواجه می‌شوند اثر بگذارد؛ حتی پیش از آنکه شرکت‌های چینی به پیشتازان این صنعت تبدیل شوند. کشورهایی نیز که از سامانه‌های آمریکایی استفاده می‌کنند، در معرض پیامدهای این تصمیم‌ها قرار خواهند گرفت.

رقابت چگونه بر تصمیم‌گیری‌های ایمن اثر می‌گذارد؟

سیاست ایمنی شرکت آنتروپیک، برخی از تعهدات این شرکت را صراحتا به جایگاه آن در مقایسه با رقبا پیوند می‌دهد. آنتروپیک متعهد شده در صورتی که برای اطمینان از مهار خطرات فاجعه‌بار یک مدل بسیار توانمند به زمان بیشتری نیاز داشته باشد، عرضه آن را به تاخیر بیندازد؛ مشروط بر آنکه معتقد باشد از رقبای خود فاصله قابل‌توجهی دارد. این تعهد زمانی پایان می‌یابد که شرکت دیگر خود را پیشتاز بازار نداند. آنتروپیک در شرایط دیگر نیز می‌تواند توسعه را متوقف کند، اما ارزیابی آن از وضعیت رقبا در تعیین زمان اجرای این تعهد نقش دارد.

چارچوب آمادگی اوپن‌ای‌آی که در آوریل ۲۰۲۵ منتشر شد، به این شرکت اجازه می‌دهد در صورتی که توسعه‌دهنده دیگری به آستانه‌های مشخصی از توانمندی‌های خطرناک برسد، بی‌آنکه تدابیر حفاظتی مشابهی داشته باشد، در اقدامات ایمنی خود بازنگری کند. شرکت باید شرایط را راستی‌آزمایی و تغییرات اعمال‌شده را به‌صورت عمومی اعلام کند. همچنین، خطر کلی آسیب‌های شدید نباید به‌طور معناداری افزایش یابد و تدابیر حفاظتی اوپن‌ای‌آی باید همچنان قوی‌تر از اقدامات رقیب باقی بماند.

این مقررات درباره رقبای مستقر در هر نقطه از جهان صدق می‌کند. هرچند این چارچوب‌ها رفتار شرکت‌ها را تنظیم می‌کنند، نه سیاست فدرال آمریکا را، اما به توانمندی‌های خارجی نقشی صریح در تصمیم‌گیری شرکت‌های آمریکایی درباره ایمنی می‌دهند.

رقابت با چین هم‌اکنون نیز در تلاش‌های صنعت هوش مصنوعی برای تغییر سیاست‌های دولت آمریکا نقش دارد. اوپن‌ای‌آی در مارس ۲۰۲۵، هنگام تحلیل درباره اینکه مقررات دولتی ممکن است توان رقابتی آمریکا را تضعیف کند، به شرکت چینی دیپ‌سیک اشاره کرد. دو ماه بعد، جنسن هوانگ، مدیرعامل انویدیا، استدلال کرد که محدود کردن فروش تراشه‌های آمریکایی به چین، به تقویت رقبای چینی منجر خواهد شد. انویدیا اندکی پیش از آن، پس از اعمال محدودیت‌های صادراتی آمریکا بر تراشه‌های هوش مصنوعی H20 به مقصد چین، هزینه‌ای معادل ۴.۵ میلیارد دلار را در صورت‌های مالی خود ثبت کرده بود.

این اختلاف‌ها عمدتا به مقررات‌گذاری و دسترسی به تراشه‌ها مربوط می‌شدند. با این حال، نشان می‌دهند شرکت‌های آمریکایی انگیزه‌های تجاری مشخصی دارند تا واشنگتن را به واکنش در برابر پیشرفت‌های چین ترغیب کنند. پکن برای بهره‌مند شدن از فشارهای ناشی از چنین مواضعی، نیازی ندارد این تلاش‌ها را هماهنگ یا هدایت کند.

پیشرفت چین چگونه سنجیده می‌شود؟

مقام‌هایی که باید درباره فوریت واکنش به پیشرفت چین تصمیم بگیرند، به ارزیابی قابل‌اعتمادی از توانمندی مدل‌های چینی نیاز دارند. نتایج مقایسه این مدل‌ها می‌تواند بسته به نوع آزمون‌های مورد استفاده، تفاوت چشمگیری داشته باشد.

در ماه مه، مرکز استانداردها و نوآوری هوش مصنوعی دولت آمریکا، مدل دیپ‌سیک V4 پرو را ارزیابی کرد. نتایج منتشرشده از سوی دیپ‌سیک حاکی از آن بود که عملکرد این مدل با مدل‌های پیشرو آمریکایی که حدود دو ماه پیش‌تر عرضه شده بودند، قابل‌مقایسه است. اما آزمون‌های مستقل این مرکز، عملکرد کلی دیپ‌سیک را به مدلی آمریکایی نزدیک‌تر دانست که حدود هشت ماه پیش از آن منتشر شده بود.

از آنجا که این آزمون‌ها توانمندی‌های متفاوتی را اندازه‌گیری می‌کردند، اختلاف نتایج به‌تنهایی ثابت نمی‌کند که دیپ‌سیک اطلاعات گمراه‌کننده منتشر کرده است. با این حال، این اختلاف نشان می‌دهد مقام‌های آمریکایی باید پیش از استناد به نتایج مقایسه‌ای برای توجیه تغییر سیاست‌ها، بررسی کنند که هر آزمون دقیقا چه توانمندی‌هایی را می‌سنجد.

اگر مقام‌های چینی صرفا بر بهترین نتایج تاکید کنند، شرکت‌های آمریکایی ممکن است از این ادعاها برای استدلال درباره این موضوع بهره بگیرند که محدودیت‌های واشنگتن به چین اجازه می‌دهد از آمریکا پیشی بگیرد. مناقشه بر سر دیپ‌سیک و کنترل صادرات تراشه‌ها نشان می‌دهد استدلال‌های مربوط به رقابت با چین چگونه وارد بحث‌های سیاست‌گذاری آمریکا می‌شوند. با این حال، ارزیابی صحت هر ادعا درباره توانمندی‌های چین، به بررسی فنی جداگانه نیاز دارد.

گزارش‌های مربوط به شکست‌ها و عملکردهای ناموفق هوش مصنوعی نیز باید با همین دقت بررسی شوند. یک رخداد تاییدشده در چین ممکن است ضعف مشترکی را در مدل‌های چینی و آمریکایی آشکار کند و ضرورت انجام آزمایش‌های بیشتر پیش از عرضه را نشان دهد. در مقابل، گزارشی اغراق‌آمیز یا ساختگی ممکن است بدون آنکه وجود خطر مشابهی در مدل‌های آمریکایی را اثبات کند، به تأخیر در توسعه آنها منجر شود.

جعل عمدی گزارش‌ها از سوی پکن، در حال حاضر یک سناریوی فرضی است. مقام‌های آمریکایی پیش از آنکه چنین گزارش‌هایی را مبنای تغییر برنامه‌های توسعه هوش مصنوعی قرار دهند، باید شواهد تاییدکننده در اختیار داشته باشند.

عامل توجیه‌کننده پذیرش مخاطرات

ارزیابان دولتی بریتانیا و آمریکا در ماه ژوئیه، یک نگرانی امنیتی مشخص را مستند کردند. مدل کیمی K3 که شرکت چینی مون‌شات ای‌آی آن را توسعه داده است، در یکی از ۱۰ تلاش، توانست یک حمله شبیه‌سازی‌شده به شبکه رایانه‌ای را با موفقیت اجرا کند. این آزمایش دسترسی اولیه مدل به شبکه را فراهم می‌کرد و هیچ مدافع فعالی در محیط شبیه‌سازی‌شده حضور نداشت.

این نتیجه نشان می‌دهد حتی مدلی که از رقبای پیشرو آمریکایی عقب‌تر است، می‌تواند در شرایط مشخصی عملیاتی سایبری انجام دهد که برای دفاع از شبکه‌ها اهمیت دارد.

فراهم کردن دسترسی زودهنگام به ابزارهای قدرتمندتر آمریکایی برای مدافعان مورداعتماد می‌تواند به مقابله با این تهدید کمک کند. اما عرضه گسترده همان ابزارها ممکن است توانایی مهاجمان را نیز افزایش دهد. شرکتی که خواستار دسترسی سریع‌تر به این ابزارهاست، باید توضیح دهد کاربران موردنظر چگونه امنیت را ارتقا خواهند داد و چه تدابیری از سوءاستفاده جلوگیری می‌کند. واکنش مناسب به نوع توانمندی و نحوه استفاده از سامانه بستگی دارد.

توسعه‌دهندگان آمریکایی پیش‌تر نیز برای مقابله با مخاطرات شناسایی‌شده، برخی فعالیت‌های مشخص را محدود کرده‌اند. اوپن‌ای‌آی اعلام کرده که برای تقویت تدابیر حفاظتی، آموزش برخی مدل‌های پیشرفته را حدود دو هفته متوقف کرده بود.

آنتروپیک نیز در ۹ اکتبر اعلام کرد قصد دارد دسترسی مستقیم به اینترنت را در تمام ارزیابی‌های داخلی خود محدود کند. این تصمیم پس از شناسایی اقدام‌های ناخواسته مدل‌ها اتخاذ شد؛ از جمله تلاش برای دسترسی به سامانه‌ها از طریق بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری. این شرکت تأکید کرد که تاثیر موارد مشاهده‌شده محدود بوده است.

هر دو نمونه نشان می‌دهند یک شرکت می‌تواند برای کنترل مخاطرات، فعالیتی مشخص را محدود کند، بی‌آنکه ناچار باشد سایر فعالیت‌های توسعه‌ای خود را متوقف سازد.

واشنگتن و پکن در ماه سپتامبر توافق کردند کانالی برای تبادل اطلاعات درباره رخدادهای مرتبط با هوش مصنوعی ایجاد کنند و قرار شد دور دیگری از این گفت‌وگوها تا ماه نوامبر برگزار شود. دو کشور باید از این فرصت برای تدوین سازوکاری استفاده کنند که بر اساس آن، گزارش‌های مربوط به رخدادها راستی‌آزمایی شوند و اطلاعات فنی لازم در اختیار ارزیابان مستقل قرار گیرد.

هرگاه مقام‌ها یا توسعه‌دهندگان آمریکایی برای توجیه کاهش تدابیر حفاظتی به چین استناد می‌کنند، باید توانمندی تاییدشده‌ای را مشخص کنند که واکنش به آن ضرورت دارد. همچنین باید توضیح دهند چرا تغییر پیشنهادی، به‌اندازه‌ای امنیت را افزایش می‌دهد که پذیرش مخاطرات اضافی آن توجیه‌پذیر باشد و آیا راهکاری محدودتر نمی‌تواند همان نتیجه را به دست آورد.

پیش از آنکه کاربران در معرض خطری قرار گیرند که پیش‌تر غیرقابل‌قبول تشخیص داده شده بود، این توضیحات باید در معرض بررسی مستقل قرار گیرند.