لا يتعلق الأمر بك فقط، فهناك المزيد من الرسائل غير المرغوب فيها التي تظهر على فيسبوك

إذا كانت صورة غريبة قد أوقفتك مؤخرًا في مساراتك أثناء تصفح موجز أخبار Facebook الخاص بك، فأنت لست وحدك.

يشكو المستخدمون الذين كانوا يستخدمون فيسبوك للتواصل مع الأصدقاء والعائلة بشكل متزايد من المحتوى العشوائي وغير المرغوب فيه وغير المرغوب فيه – والذي يبدو أن الكثير منه تم إنشاؤه بواسطة الذكاء الاصطناعي – والذي يظهر في خلاصاتهم.

في بعض الأحيان، تكون الصور مزيفة بشكل واضح، ومولدة بواسطة الذكاء الاصطناعي، مثل “يسوع الجمبري” الشهير الآن. وفي أحيان أخرى، تكون المنشورات القديمة من المبدعين الحقيقيين والتي تبدو وكأنها تتم إعادة مشاركتها بواسطة حسابات الروبوتات من أجل المشاركة. وفي بعض الحالات، تكون الصفحات التي تشارك تيارات من المحتوى الحميد على ما يبدو ولكنه عشوائي – الميمات أو مقاطع الأفلام، التي تتم مشاركتها كل بضع ساعات.

ولكن الرسائل غير المرغوب فيها لا تشكل مصدر إزعاج فحسب؛ بل يمكن استغلالها كسلاح. ويبدو أن بعض صفحات الرسائل غير المرغوب فيها مصممة لخداع المستخدمين الآخرين. وفي الحالات القصوى، يمكن في نهاية المطاف استخدام صفحات الرسائل غير المرغوب فيها التي تكتسب عددا كبيرا من المتابعين، على سبيل المثال، من قبل جهات أجنبية تسعى إلى بث الفتنة قبل الانتخابات، وفقا للخبراء الذين يدرسون السلوك الزائف على الإنترنت.

ويتزامن هذا الارتفاع مع تحول متعمد في استراتيجية فيسبوك في السنوات القليلة الماضية. فقد قللت الشركة من أهمية الأحداث الجارية والسياسة في أعقاب مزاعم بأنها ساهمت في التلاعب بالانتخابات والعنف في العالم الحقيقي. وفي ظل الشعور بالحرارة الناجمة عن صعود تيك توك وتأكيده على الترفيه على حساب الاتصالات الاجتماعية، أعادت فيسبوك تصميم الصفحة الرئيسية للمستخدمين وتحويلها إلى “محرك اكتشاف” على أمل أن يتفاعل الناس مع المحتوى الذي قد لا يرونه بخلاف ذلك.

لكن الدفع نحو المزيد من المحتوى “القابل للاكتشاف” أدى إلى ظهور خوارزمية تدفع بانتظام محتوى تافهًا ومضللًا في كثير من الأحيان، تم إنشاؤه بواسطة الكمبيوتر.

لقد كان التغيير ملموسا. فقد ظهرت محتويات الميم التي تم إنشاؤها بواسطة الذكاء الاصطناعي أو إعادة تدويرها في قائمة المحتوى الأكثر مشاهدة ربع السنوية على فيسبوك. وفي بعض الأحيان، تتلقى المنشورات التي تحتوي على صور تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل واضح وتعليقات توضيحية مربكة آلاف الإعجابات ومئات التعليقات والمشاركات.

يقول الخبراء إن الجهات الفاعلة السيئة ومزارعي المشاركة سعداء للغاية بتلبية طلب فيسبوك على محتوى جديد. وقد سهل انتشار أدوات الذكاء الاصطناعي عليهم إنتاج كميات هائلة من الصور والنصوص المزيفة بسرعة.

وقال بن ديكر، الرئيس التنفيذي لشركة تحليل التهديدات عبر الإنترنت ميميتيكا: “إنه أمر مثير للاهتمام حقًا أن الكثير من الناس بدأوا يتحدثون عنه لأنه مشكلة عشوائية نوعًا ما الآن، ولكن من الواضح أن هناك مخاوف نظرية طويلة الأمد”.

ومن جانبها، تعمل شركة Meta، الشركة الأم لفيسبوك، على “إزالة المحتوى غير المرغوب فيه والحد من انتشاره لضمان تجربة مستخدم إيجابية، وتقديم ضوابط للمستخدمين على موجزهم وتشجيع المبدعين على استخدام أدوات الذكاء الاصطناعي لإنتاج محتوى عالي الجودة يلبي معايير مجتمعنا”، وفقًا للمتحدثة باسم الشركة إيرين لوجان في بيان. “نتخذ أيضًا إجراءات ضد أولئك الذين يحاولون التلاعب بالحركة من خلال المشاركة غير الأصيلة، بغض النظر عما إذا كانوا يستخدمون الذكاء الاصطناعي أم لا”.

قبل أن أبدأ في إعداد تقرير عن هذه القصة في شهر يوليو/تموز، كانت صفحة الفيسبوك الخاصة بي تبدو عادية إلى حد ما، إذ كانت تعرض صور أطفال من أصدقاء الكلية وقوائم من سوق الفيسبوك.

ولكن، بدافع الفضول بشأن الشكاوى، بدأت في النقر على أي محتوى أراه غريبًا، وبدأت الخوارزمية في العمل. والآن، بعد أسابيع، يبدو أن كل منشور ثالث تقريبًا في موجز الأخبار الخاص بي هو ما يسمى “بقايا الذكاء الاصطناعي”.

ومن الأمثلة الحديثة: صورة بالأبيض والأسود تظهر كوخًا في الغابة وتجلس عائلة أمامه، وتمت مشاركتها على صفحة تسمى “التاريخ للجميع”.

للوهلة الأولى، تبدو الصورة وكأنها شيء قد تجده في كتاب تاريخ. ولكن عند الفحص الدقيق، نجد أن ملامح وجوه الأشخاص في الصورة ضبابية وغير محددة، ويبدو أن أيدي وأقدام الأطفال تختفي في المشهد المحيط بهم – وهي السمات المميزة للصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي.

يزعم تعليق المنشور أن الصورة التقطت عام 1910 في نيوجيرسي في “كوخ صغير في مستنقع فورسيث، تسكنه عائلة دي ماركو، 10 أفراد من العائلة يعيشون في غرفة واحدة”، بواسطة مصور اللجنة الوطنية لعمالة الأطفال لويس هاين. بدافع الفضول، قمت بنسخ التعليق الكامل على جوجل، الذي أشار لي إلى التعليق الحقيقي لصورة مختلفة تمامًا نشرتها مكتبة الكونجرس.

لقد قمت بإدخال صورة الفيسبوك في بحث الصور العكسي على جوجل، والأماكن الأخرى الوحيدة التي ظهرت فيها على الإنترنت كانت مجموعتين أخريين مماثلتين على الفيسبوك تسمى “ذكريات الماضي” و “صور التاريخ”.

من المستحيل أن نقول بشكل قاطع كيف تم إنشاء الصورة، لكن فريق التصوير في CNN قام بتشغيلها من خلال برنامج اكتشاف الذكاء الاصطناعي – والذي لا يزال في مرحلة الاختبار المبكر – ووجد “أدلة جوهرية” على أنه تم التلاعب بها. وأضاف هاني فريد، خبير الطب الشرعي الرقمي وأستاذ في جامعة كاليفورنيا في بيركلي والذي درس الذكاء الاصطناعي، أن الصورة يبدو أنها تم إنشاؤها بواسطة الذكاء الاصطناعي وربما تم إنشاؤها باستخدام تعليق الصورة الحقيقية والتاريخية كموجه للذكاء الاصطناعي، ربما لتجنب انتهاك حقوق النشر.

وتدير صفحة تحمل نفس الاسم، والتي تم إنشاؤها في عام 2022 وغيرت اسمها سابقًا من “Cubs” إلى “Chikn.Nuggit”، المجموعة التي نشرت المنشور، “التاريخ للجميع”. ولم ترد الصفحة على رسالة مباشرة.

إن منشور “التاريخ للجميع” يوضح الكثير من المحتوى الذي يظهر على خلاصتي – غريب، غريب، ولكن يبدو أيضًا حميدًا.

ومن الأمثلة الأخرى صفحة تسمى “Amy Couch” والتي تشارك أيضًا صورًا “تاريخية”، مع صورة شخصية تم إنشاؤها بواسطة الذكاء الاصطناعي على ما يبدو تظهر امرأة بسن عملاقة حيث يجب أن تكون أسنانها الأمامية. أو صفحة فنية وتاريخية لفنانة تسمى “Kris Artist” والتي تتبعت صورتها الشخصية إلى مؤثر حقيقي على وسائل التواصل الاجتماعي أخبرني عبر البريد الإلكتروني: “هذا بالتأكيد ليس حسابي ولكنهم يستخدمون صورتي”.

عندما أرسلت رسالة إلى صفحة “Kris Artist”، تلقيت ما بدا وكأنه رد آلي: “مرحبًا، شكرًا على الاتصال بنا. لقد تلقينا رسالتك ونقدر تواصلك معنا. يرجى الانضمام إلى مجموعتنا”.

بعد أن قمت بالإبلاغ عن منشور “تاريخ للجميع”، بالإضافة إلى صفحات Amy Couch وKris Artist، إلى Meta، قامت الشركة بإزالتها بسبب انتهاك سياسة البريد العشوائي.

ليس من الواضح على وجه التحديد مقدار هذا المحتوى الموجود على فيسبوك. ولكن قد يكون هناك الكثير من الأشخاص الذين يرون ذلك. تضم صفحة “التاريخ للجميع” أكثر من 40 ألف متابع، على الرغم من أن المنشورات الفردية غالبًا ما تتلقى عددًا قليلاً من التفاعلات.

في وقت سابق من هذا العام، قام باحثون من جامعة ستانفورد وجورج تاون بتتبع 120 صفحة على فيسبوك تنشر صورًا تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل متكرر – ووجدوا أن الصور تلقت بشكل جماعي “مئات الملايين من المشاركات والتعرضات”، وفقًا لورقة بحثية صدرت في مارس/آذار، ولم تتم مراجعتها من قبل الأقران بعد.

“في بعض الأحيان، يعرض موجز Facebook Feed للمستخدمين صورًا تم إنشاؤها بواسطة الذكاء الاصطناعي حتى عندما لا يتابعون الصفحات التي تنشر هذه الصور. نشك في أن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي تظهر على موجزات المستخدمين لأن خوارزمية ترتيب موجز Facebook Feed تروج للمحتوى الذي من المرجح أن يولد التفاعل”، كتب الباحثان رينيه دي ريستا وجوش جولدشتاين في الورقة البحثية. وأضافا أن المستخدمين الذين يتفاعلون مع هذا المحتوى غالبًا ما لا يدركون أنه ذكاء اصطناعي.

ويقول الخبراء الذين يتتبعون هذا النوع من السلوك عبر الإنترنت إن هناك على الأرجح عدة أنواع مختلفة من الجهات الفاعلة وراء رسائل البريد العشوائي على فيسبوك، مع دوافع مختلفة.

يريد البعض فقط جني الأموال، على سبيل المثال من خلال المدفوعات الإضافية التي تدفعها فيسبوك للمبدعين الذين ينشرون محتوى عامًا. هناك العشرات من مقاطع الفيديو على يوتيوب التي تعلم الناس كيفية الحصول على أموال مقابل نشر محتوى الذكاء الاصطناعي على فيسبوك – كما ذكر موقع أخبار التكنولوجيا 404 Media في وقت سابق من هذا الشهر – مع ادعاء البعض أنهم يكسبون آلاف الدولارات كل شهر باستخدام هذا التكتيك.

“حتى في عالم السياسة، كانت تكتيكات المتلاعبين معروفة منذ فترة طويلة من قبل أولئك الذين لديهم دوافع مختلفة: جني الأموال. غالبًا ما يكون مرسلو البريد العشوائي والمحتالون من أوائل من يتبنون التقنيات الجديدة”، كما كتب باحثو ستانفورد.

في صفحات أخرى، يستخدم المحتالون التعليقات كمكان لبيع منتجات وهمية أو جمع المعلومات الشخصية للمستخدمين.

في بعض الحالات، قد يتسلل إلى حسابات تبدو وكأنها غير ضارة وتشارك في محتوى عشوائي في الغالب معلومات مضللة أو ميمات مسيئة من حين لآخر، كوسيلة للتهرب من آليات فرض القانون في فيسبوك. يقول ديفيد إيفان هاريس، باحث الذكاء الاصطناعي الذي عمل سابقًا في مجال الذكاء الاصطناعي المسؤول في ميتا: “إذا كان الأمر يبدو وكأنه حملة بريد عشوائي عادية، فقد لا يثير ذلك اهتمام كبار المحققين في الشركة … وبالتالي قد يمر دون اكتشافه لفترة أطول”.

وأضاف هاريس أن هناك أيضًا سوقًا عبر الإنترنت لحسابات فيسبوك “القديمة”، لأن الحسابات القديمة من المرجح أن تبدو وكأنها بشرية وتتجنب مرشحات البريد العشوائي الخاصة بالمنصة.

“إنها مثل السوق السوداء، حيث يمكنك بيع ألف حساب لشخص ما، وكلها عمرها خمس سنوات أو أكثر، ثم يمكنه تحويلها إلى عملية احتيال أو عملية تأثير”، كما قال هاريس. “هذا شيء تراه في الانتخابات: قد يقوم شخص ما بإنشاء مجموعة على فيسبوك مثل “الجميع يحبون البرجر بالجبن”، وتنشر المجموعة صورًا لأفضل البرجر بالجبن كل يوم لمدة عامين، ثم فجأة، قبل شهر من الانتخابات … تصبح مجموعة “التصويت للرئيس البرازيلي السابق جايير بولسونارو”.

بفضل أدوات الذكاء الاصطناعي، لم يعد المجرمون في حاجة إلى أعداد كبيرة من الأشخاص لإنتاج كميات هائلة من المحتوى المزيف بسرعة – فالتكنولوجيا قادرة على القيام بذلك نيابة عنهم.

وقال فريد إن تحديد فيسبوك لجميع الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي يتم تحميلها كل يوم دون ارتكاب أخطاء سيكون أمرًا صعبًا، “خاصة في وقت تتطور فيه هذه التكنولوجيا بسرعة لا تصدق”. وحتى لو كان بإمكانه ذلك، “فهذا لا يعني أنه يجب عليك حظر جميع المحتويات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، أليس كذلك؟ … إنه سؤال دقيق للغاية حول السياسة”.

في وقت سابق من هذا العام، أعلنت Meta أنها ستضيف علامات “معلومات الذكاء الاصطناعي” إلى المحتوى الذي تم إنشاؤه بواسطة بعض مولدات الطرف الثالث التي تستخدم البيانات الوصفية لإعلام المواقع الأخرى بأن الذكاء الاصطناعي متورط. كما تقوم Meta تلقائيًا بوضع علامات على الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي باستخدام أدواتها الخاصة.

ومع ذلك، لا تزال هناك طرق يمكن للمستخدمين من خلالها إزالة تلك البيانات الوصفية (أو إنشاء صور الذكاء الاصطناعي بدونها) لتجنب الاكتشاف.

وقد تواجه Meta أيضًا إعاقة من قبل فريق أصغر مخصص لمعالجة المحتوى المزيف، بعد أن قامت – مثل شركات التكنولوجيا العملاقة الأخرى – بتقليص موظفي الثقة والسلامة في العام الماضي، مما يعني أنها يجب أن تعتمد بشكل أكبر على أنظمة التعديل الآلية التي يمكن التلاعب بها.

وقال هاريس: “لقد كانت مجتمعات وسائل التواصل الاجتماعي الذكية رقميًا دائمًا متقدمة بخطوة ونصف عن جهود الثقة والسلامة على جميع المنصات … إنها لعبة القط والفأر التي لا تنتهي أبدًا”.