جنجال تازه بر سر سوگیری هوش مصنوعی در جنگ غزه / پای یک مؤسسه جعلی به میان آمد

همواره هنگام استفاده از هوش مصنوعی این سؤال مطرح می‌شود که این ابزارها تا چه اندازه قابل اعتماد هستند. روزنامه القدس العربی در گزارشی درباره دستکاری اطلاعات در فضای مجازی نوشت: در حالی که هزاران شهادت و سند، حقیقت جنایات اسرائیل در نوار غزه را نشان می‌دهند، وضعیت در سکوهای هوش مصنوعی یا دست‌کم برخی از آن‌ها متفاوت است.

این روزنامه افزود: در حالی که ابزارهای هوش مصنوعی «جمینای» و «کوپایلت» تأیید می‌کنند که نهادهای سازمان ملل متحد و شمار زیادی از کشورها، اسرائیل را به ارتکاب نسل‌کشی در غزه متهم کرده‌اند، ابزارهایی نظیر «چت‌جی‌پی‌تی» و «پرپلکسیتی» با به حاشیه راندن موضوع یا دور زدن آن، از پاسخ صریح طفره می‌روند.

به ادعای این روزنامه، این پلتفرم‌ها با این استدلال که هنوز هیچ حکم قطعی از سوی دیوان بین‌المللی دادگستری درباره وقوع نسل‌کشی صادر نشده است، موضوع را به بحث‌های حقوقی زمان‌بر سوق می‌دهند و دیدگاه اسرائیل درباره انکار این اتهامات را بازتاب می‌دهند.

مؤسسه هانوفر؛ ابزاری برای اثرگذاری بر هوش مصنوعی

مؤسسه سیاست‌گذاری عمومی هانوفر، نهادی است که به ادعای القدس العربی، پوششی برای یک عملیات دیجیتالی و رسانه‌ای است که در اوت ۲۰۲۶ از سوی اسرائیل راه‌اندازی شده است. این نهاد در برخی محافل مطبوعاتی و فنی بین‌المللی به‌عنوان یک «اندیشکده مصنوعی جعلی» توصیف شده که هدف آن تزریق اطلاعات به پلتفرم‌های هوش مصنوعی مولد و تأثیرگذاری بر روایت آن‌ها درباره اسرائیل است.

این وبگاه از طریق یک شرکت تولید رسانه‌ای و تبلیغاتی در نیویورک به نام «پیرو» و با بودجه اداره تبلیغات دولتی اسرائیل راه‌اندازی شده است. به نوشته این روزنامه، ارتباط میان این مجموعه‌ها از طریق اسناد قانون ثبت عوامل خارجی در وزارت دادگستری آمریکا افشا شده است.

این مؤسسه بر پایه راهبردی فنی به نام «بهینه‌سازی موتورهای تولیدی» یا تقویت منابع (GEO) فعالیت می‌کند؛ راهبردی که مبتنی بر انتشار انبوه مقالات در حمایت از روایت اسرائیل درباره اراضی اشغالی فلسطین است.

روزنامه القدس العربی برای بررسی فعالیت این وبگاه، اسکریپتی به زبان پایتون نوشته و آن را در محیط گوگل کولب اجرا کرده است. همچنین نمونه‌هایی تصادفی از گزارش‌های منتشرشده با استفاده از یکی از پلتفرم‌های تشخیص هوش مصنوعی بررسی شده و از قابلیت جست‌وجوی پیشرفته گوگل برای استخراج مقالات آرشیوشده استفاده شده است.

نتایج این بررسی نشان داده است که ۱۸۷ مقاله در این وبگاه منتشر شده، در حالی که گوگل تنها ۷۰ مقاله را آرشیو کرده است؛ موضوعی که به ادعای این روزنامه، نشان می‌دهد وبگاه مذکور اساساً کاربران عادی و موتورهای جست‌وجوی سنتی را هدف قرار نداده است.

بررسی پیوندهای مقالات نیز نشان داده که در آن‌ها از قالب‌های آماده و تکراری استفاده شده است؛ مسئله‌ای که می‌تواند نشانه بهره‌گیری از نرم‌افزارهای مدیریت محتوا برای انتشار متون تولیدشده توسط هوش مصنوعی در قالب‌های ازپیش‌تعیین‌شده باشد.

همچنین در پیوند مقالات به‌جای کلمات معنادار، از شناسه‌های رمزگذاری‌شده و کدهایی مانند p۹۷۳ استفاده شده است. به نوشته القدس العربی، این الگو می‌تواند نشان‌دهنده استفاده از دستورات برنامه‌نویسی برای تولید و انتشار انبوه مقالات در مدت‌زمان کوتاه باشد.

بررسی روند انتشار مطالب از ۶ اوت تا ۲۹ سپتامبر نیز از انتشار نامتوازن و فشرده مقالات حکایت داشته است؛ به‌طوری‌که ۱۲ مقاله در ۱۴ سپتامبر و ۱۹ مقاله در ۲۹ سپتامبر منتشر شده است.

افزون بر این، تحلیل نمونه‌هایی از مقالات نشان داده که این متون ابتدا توسط هوش مصنوعی تولید و سپس برخی جملات آن‌ها دستکاری شده‌اند تا از فیلترهای سنتی تشخیص محتوای هوش مصنوعی عبور کنند.

افشای هویت مؤسسه هانوفر در رسانه‌های بین‌المللی

فعالیت‌های مؤسسه هانوفر پیش‌تر نیز در رسانه‌های بین‌المللی بازتاب داشته است. پلتفرم آمریکایی «رسپانسیبل استیت‌کرفت» وابسته به مؤسسه سیاست‌های خارجی کوئینسی، در گزارشی در ۱۷ اوت گذشته از ماهیت این مؤسسه پرده برداشت.

این گزارش مدعی شد مؤسسه هانوفر مرکزی جعلی است که خود را یک اندیشکده مستقل آمریکایی معرفی می‌کند، اما فاقد شخصیت حقوقی، آدرس واقعی و تیم کاری مشخص است.

به نوشته این رسانه، هدف اصلی این مؤسسه تأثیرگذاری مستقیم بر مخاطبان انسانی نیست، بلکه انتشار انبوه محتوا در قالب گزارش‌های پژوهشی با هدف اثرگذاری بر سیستم‌های «تولید تقویت‌شده با بازیابی» (RAG) در ابزارهای هوش مصنوعی است تا این پلتفرم‌ها در پاسخ به پرسش‌های مرتبط با جنگ غزه، روایت‌های مطلوب اسرائیل را بازتولید کنند.

چند روز پس از انتشار این گزارش، روزنامه گاردین نیز گزارشی درباره فعالیت این مؤسسه منتشر کرد و بر فرایند انتشار انبوه محتوا و تزریق اطلاعات به منابع مورد استفاده هوش مصنوعی تمرکز داشت.

رکورد غیرمعمول در تولید محتوای خودکار

گاردین گزارش داد وبگاه مؤسسه هانوفر تنها در فاصله ۶ تا ۱۴ اوت، بیش از ۱۲۴ گزارش پژوهشی با حجم کلی بالغ بر ۵۶۰ هزار کلمه منتشر کرده است؛ حجمی از محتوا که به نوشته این روزنامه، نشان‌دهنده اتکای گسترده به تولید خودکار و اسکریپت‌نویسی رایانه‌ای است.

این روزنامه همچنین مدعی شد زمان‌بندی انتشار این مطالب با هدف تأثیرگذاری بر افکار عمومی و همگام‌سازی با تحولات دادگاه‌های بین‌المللی انجام شده است؛ به این ترتیب که فضای دیجیتال با مقالات متعدد پر می‌شود تا مدل‌های هوش مصنوعی در پاسخ‌های خود از آن‌ها به‌عنوان منابع استفاده کنند.

قرار گرفتن وبگاه هانوفر در فهرست سیاه

گاردین همچنین نوشت سازمان جهانی امنیت اینترنت «پیوند» برای محافظت از مدل‌های زبانی در برابر دستکاری سیستماتیک، دامنه این وبگاه را در فهرست سیاه قرار داده است.

این روزنامه برای بررسی این موضوع آزمایشی انجام داده و مدعی شده است که وبگاه هانوفر در فهرست دامنه‌های با اعتبار پایین قرار گرفته است.

این اقدام به معنای مسدود شدن وبگاه یا فیلتر شدن آن برای کاربران عادی اینترنت نیست، بلکه به معنای شناسایی دامنه به‌عنوان منبعی مشکوک و کم‌اعتبار در سامانه‌های امنیتی و فیلترهای حفاظتی است.

به نوشته القدس العربی، چنین اقدامی می‌تواند مانع از آن شود که گزارش‌های این وبگاه در پوشش منابع آکادمیک و معتبر به منابع مورد استفاده مدل‌های زبانی راه پیدا کنند.