هجوم سيبراني يشلّ البنوك والإنترنت؟ عمالقة الذكاء الاصطناعي يستعدون لسيناريو مرعب

تجري قيادات بارزة في صناعة الذكاء الاصطناعي مناقشات مغلقة بشأن كيفية التعامل مع تداعيات كارثة محتملة قد تشعل غضباً شعبياً وسياسياً واسعاً ضد التكنولوجيا وشركاتها.

اعلان

اعلان

وبحسب تقرير نشره موقع “أكسيوس”، يشارك مسؤولون تنفيذيون في شركات “أنثروبيك” و”أوبن إيه آي” وغيرها من شركات الذكاء الاصطناعي في إعداد سيناريوهات لأزمة قد تتجاوز آثارها الجانب التقني، لتضع قادة الصناعة أمام موجة من الانتقادات والمطالبات بالتدخل الحكومي.

وتتركز المخاوف على احتمال وقوع هجوم سيبراني واسع النطاق يعطل الخدمات المالية أو الاتصال بالإنترنت، أو يمتد إلى البنية التحتية للطاقة والمياه.

ويحذر المسؤولون من أن وقوع أول حادث كبير يُعزى إلى ذكاء اصطناعي غير آمن قد يحوّل الحذر العام تجاه هذه التكنولوجيا إلى غضب مباشر يستهدف الشركات المطورة وقياداتها، فضلاً عن الرئيس الأمريكي دونالد ترامب، بسبب تردده في فرض قيود تنظيمية على القطاع.

مخاوف تتجاوز السيناريوهات الافتراضية

ويُعد إعداد سيناريوهات الأزمات ممارسة مألوفة لدى الشركات والمؤسسات المعنية بالأمن القومي، إذ يجري البنتاغون مناورات لمحاكاة الحروب منذ عقود.

لكن الفارق، وفق الموقع الأمريكي، أن عدداً من كبار الباحثين والمديرين التنفيذيين في صناعة الذكاء الاصطناعي يتعاملون مع احتمال وقوع حادث كبير بوصفه خطراً يستدعي استعداداً جدياً، لا مجرد فرضية نظرية.

وفي هذا السياق، قال متحدث باسم “أوبن إيه آي” إن الشركة تجري تدريبات للجاهزية تتناول خلالها الفرق مجموعة من السيناريوهات المحتملة وتعمل على الاستعداد لها.

وأوضح أن هذه السيناريوهات لا تُعامل باعتبارها أحداثاً حتمية، بل تهدف إلى تعزيز قدرة الشركة على التعامل مع ظروف مختلفة.

وفي حين أوضحت “أوبن إيه آي” طبيعة تدريباتها على الاستعداد للأزمات، رفضت “أنثروبيك” التعليق على الأمر، بحسب “أكسيوس”.

هجمات تكشف مخاطر إساءة الاستخدام

ولا تقتصر المخاوف على احتمال خروج أنظمة الذكاء الاصطناعي عن القيود المفروضة عليها، بل تشمل أيضاً استغلال أطراف خبيثة للنماذج المتاحة بطرق يصعب توقعها.

ويحذر المخططون من أن أي حادث كبير قد يفتح الباب أمام تبادل الاتهامات بشأن المسؤولية، سواء نتج عن تجاوز وكلاء آليين لقيود بيئات الاختبار، أو عن استخدام إجرامي لأدوات الذكاء الاصطناعي.

ويستشهد “أكسيوس” بحملة سيبرانية استهدفت مؤسسات مالية في كوريا الجنوبية، وشملت اختراقات أُبلغ عنها في بنكين، لتوضيح حجم الأضرار التي يمكن أن يتسبب فيها مهاجم واحد بالاستعانة بهذه الأدوات.

وبحسب التقرير، يُشتبه في أن مخترقاً صينياً استخدم أدوات ذكاء اصطناعي تعتمد على نماذج مطورة في الصين، من بينها “ديب سيك”، لسرقة بيانات عشرات الآلاف من عملاء البنوك.

ووفقاً لشركة الأمن السيبراني “كراود سترايك”، استعان المهاجم أيضاً بأداة “كلود كود” لطلب المساعدة في تحديد أماكن يمكن بيع البيانات المسروقة فيها، في واقعة تسلط الضوء على المخاطر المرتبطة بتوظيف أدوات الذكاء الاصطناعي في أنشطة إجرامية.

معضلة سياسية واقتصادية

وتتجاوز حسابات الشركات الجانب الأمني إلى الاستعداد لرد الفعل السياسي المحتمل. ويفترض كبار المخططين في القطاع أن الديمقراطيين قد يتحركون سريعاً لوقف تطوير الذكاء الاصطناعي أو فرض قيود مشددة عليه إذا عززوا نفوذهم عقب انتخابات التجديد النصفي. غير أن تحويل هذه التحركات إلى إجراءات فعلية سيصطدم بعقبات مؤسسية واقتصادية وتقنية.

وبحسب “أكسيوس”، قد يواجه الكونغرس صعوبة في استيعاب تداعيات أزمة بهذا الحجم، في ظل ما يراه المخططون فجوة بين المؤسسة التشريعية والتطور المتسارع لصناعة الذكاء الاصطناعي.

وتبرز أيضاً كلفة أي تحرك يهدف إلى إبطاء القطاع، بعدما أصبحت الاستثمارات في البنية التحتية للذكاء الاصطناعي متشابكة مع الاقتصاد العالمي. وقد يؤدي تعطيل هذا التوسع إلى ضغوط إضافية على اقتصاد يعاني بالفعل من مواطن هشاشة.

وتزداد التحديات مع انتشار النماذج مفتوحة الأوزان، أي نماذج ذكاء اصطناعي تتيح الشركات تنزيلها واستخدامها وتعديلها، ما يسمح بتشغيلها خارج أنظمة الشركات المطوّرة.

ويرى كثير من المتخصصين في الأمن السيبراني أن مواجهة هذه المخاطر ستتطلب استخدام الذكاء الاصطناعي نفسه في رصد الأنشطة الضارة والتصدي لها.

تشريعات لمرحلة ما بعد الأزمة

وتتضمن الاستعدادات تشكيل فرق حمراء لاختبار أسوأ السيناريوهات المحتملة، وكشف الثغرات التي قد تسمح بوقوع أضرار واسعة النطاق. لكن جانباً مهماً من هذه الجهود يركز على توعية أعضاء الكونغرس بالمخاطر والخيارات المتاحة للتعامل معها.

ويشير “أكسيوس” إلى أن المسؤولين التنفيذيين يدركون محدودية فرص تمرير تشريعات تنظيمية جديدة في الوقت الراهن، لكنهم يسعون إلى المساهمة في إعداد القواعد والسياسات التي قد يلجأ إليها القادة الأمريكيون بعد وقوع كارثة كبرى مرتبطة بالذكاء الاصطناعي.

وتعكس هذه الجهود رغبة في تجهيز خيارات تشريعية وسياسية مسبقاً، تحسباً لمرحلة قد يصبح فيها التدخل الحكومي أكثر إلحاحاً تحت ضغط الأضرار الفعلية والرأي العام.

انقسام بشأن مستقبل الذكاء الاصطناعي

ونقل “أكسيوس” عن عدد من المطلعين على الصناعة اعتقادهم أن حدثاً كبيراً قد يقع خلال الأشهر الستة إلى الاثني عشر المقبلة.

ومع ذلك، لا تتوقع الشركات أن تؤدي سيطرة الديمقراطيين على مجلسي النواب والشيوخ، إن تحققت، إلى توافق سريع بشأن كيفية تنظيم القطاع، إذ ترى أن الانقسامات السياسية ستظل عائقاً رئيسياً أمام صياغة سياسة موحدة.

ولا يقتصر الخلاف على الحزبين، بل يمتد إلى داخل الحزب الديمقراطي نفسه. فبعض المقترحات الأكثر تشدداً تدعو إلى حظر الذكاء الاصطناعي الخارق أو وقف تطوير أنظمة الذكاء الاصطناعي المتقدمة، فيما تحظى مقترحات أخرى بدعم من الحزبين وبعض الأطراف في الصناعة، من بينها إلزام الشركات بتوفير “مفتاح إيقاف” (Kill Switch) للأنظمة المتقدمة.

فيما يشكك خبراء في إمكانية الاعتماد على هذا الإجراء لإيقاف جميع أنظمة الذكاء الاصطناعي، لا سيما في ظل انتشار النماذج مفتوحة الأوزان وإمكانية تشغيلها خارج البنية التحتية للشركات الكبرى.

وفيما لا تزال المواقف متباينة بشأن حدود التدخل الحكومي، استشهد أحد المساعدين الديمقراطيين، وفق “أكسيوس”، بالتعاون الذي شهدته الولايات المتحدة خلال جائحة كوفيد-19 والأزمة المالية لعام 2008، باعتباره دليلاً على إمكانية تجاوز الخلافات الحزبية عندما تفرض الأزمات الكبرى استجابة مشتركة.