خطرات امنیتی استفاده از هوش مصنوعی شخصی کارکنان در سازمانها
اقتصادنیوز: اتصال دستیاران هوش مصنوعی شخصی کارکنان به حسابها و اسناد شرکتی، چالشهای امنیتی تازهای برای سازمانها به وجود آورده که فراتر از چارچوبهای سنتی مدیریت فناوری است.
به گزارش اقتصادنیوز به نقل از فوربز، بسیاری از کارکنان برای افزایش سرعت و آمادگی در جلسات کاری، دستیاران هوش مصنوعی شخصی خود را به ایمیل و فایلهای سازمانی متصل میکنند. هرچند این اقدام با نیت بهبود بهرهوری انجام میشود، اما میتواند پیامدهای امنیتی پیشبینینشدهای برای کسبوکارها به همراه داشته باشد. دستیاران نسل جدید مانند Muse متعلق به متا یا ابزارهای مشابه شرکتهای اوپنایآی و گوگل، صرفاً به گفتگو محدود نمیشوند، بلکه میتوانند امور روزمره را به شکل مستقل و در پسزمینه پیش ببرند.
آمارها حاکی از استقبال سریع کاربران از این فناوری است. بر اساس گزارشها، شمار کاربران Muse ظرف حدود شش هفته پس از عرضه از مرز ۱۰ میلیون گذشت. همچنین نتایج نظرسنجی مؤسسه منلو ونچرز نشان میدهد که ۳۲ درصد از کاربران هوش مصنوعی در آمریکا به این ابزارها اجازه دادهاند بدون نیاز به تأیید نهایی، اقداماتی را از جانب آنها اجرا کنند. این روند یادآور ورود گوشیهای هوشمند شخصی به فضای کار در سالهای گذشته است، هرچند تفاوتهای بنیادی مهمی با آن دوره دارد.
تفاوت دستیاران عاملمحور با نرمافزارهای سنتی
در نرمافزارهای سنتی، فرایندهای کاری از پیش تعریف شدهاند، اما عاملهای هوش مصنوعی میتوانند با توجه به دستور کلی کاربر، ابزارها و مراحل بعدی را خودشان انتخاب کنند. به این ترتیب، دسترسیهایی که کاربر در زمان راهاندازی با بیدقتی تأیید کرده، میتواند به هوش مصنوعی اجازه دهد دست به اقداماتی بزند که کارمند هرگز انتظار آن را نداشته است.
برای نمونه، اگر کارمندی از دستیار خود بخواهد مکاتبات قبلی را بررسی و گزارشی آماده کند، هوش مصنوعی ممکن است به هزاران ایمیل دیگر و بحثهای داخلی نامربوط نیز دسترسی پیدا کند. چنانچه در دستور بعدی از ابزار خواسته شود پیام پیگیری برای مشتری ارسال کند، این دستیار ممکن است اطلاعات محرمانه نظیر تغییرات قیمتی اعلامنشده را مرتبط تشخیص دهد و ناخواسته برای مشتری ارسال کند، بدون آنکه تخلف صریحی از منظر سطوح دسترسی رخ داده باشد.
پنج راهبرد برای مدیریت امن هوش مصنوعی شخصی
کارشناسان امنیت سایبری برای مهار این ریسکها پنج راهکار اساسی پیشنهاد میکنند: نخست، تفکیک هویت کارمند از دستیار هوش مصنوعی در گزارشهای سیستمی، تا مشخص باشد کدام اقدام توسط انسان و کدام توسط هوش مصنوعی انجام گرفته است. دوم، بررسی دقیق اتصالات و ارزیابی نحوه مدیریت دادهها و اعتبارسنجی توسط ارائهدهنده سرویس.
راهکار سوم، محدودسازی دسترسی بر اساس مأموریت مشخص و تفکیک مجوز خواندن از ارسال داده است. چهارم، الزام به بازبینی و تأیید انسانی در تصمیمات پرپیامد، بهویژه پیش از ارسال ایمیلها و فایلهای خارجی. در نهایت، پیشبینی یک کلید قطع فوری برای تیمهای امنیتی، تا در صورت بروز هرگونه رفتار مشکوک، امکان لغو دسترسی دستیار هوش مصنوعی بدون غیرفعالسازی حساب کاربری کارمند فراهم باشد.
تجربه استفاده از دستگاههای شخصی در سازمانها نشان داده است که نیاز و تمایل کارکنان اغلب سریعتر از سیاستگذاریهای رسمی پیش میرود. از این رو، مدیران امنیتی باید بهجای ممنوعیت صرف، مسیرهای مشخص و کنترلشدهای برای بهرهگیری امن از این دستیاران ایجاد کنند.
تا این لحظه منبع مستقل دیگری این خبر را منتشر نکرده است.
بررسی خودکار: مقایسه با خبرهای ۷۲ ساعت اخیر منابع دیگر و اعتبار پایهی منبع؛ جایگزین داوری انسانی نیست.منبع: اقتصادنیوز
گفتوگو