قال مستشارو شركة ميتا العملاقة لوسائل التواصل الاجتماعي إن عليها بذل المزيد من الجهود لمعالجة انتشار المحتوى المزيف ومقاطع الفيديو المزيفة. المصنوعة باستخدام أدوات الذكاء الاصطناعي على منصاتها.

مقاطع الفيديو المزيفة

وقد وبخ مجلس الرقابة المكون من 21 شخصًا، الشركة لإبقائها على مقطع فيديو تم إنشاؤه بواسطة الذكاء الاصطناعي.

ودعت الشركة إلى إصلاح قواعد الذكاء الاصطناعي الخاصة بها. محذرةً من أن الزيادة في مقاطع الفيديو المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والمتعلقة بالصراعات العسكرية العالمية قد تحدت قدرة الجمهور على التمييز بين التلفيق والحقيق . ما يُنذر بانعدام الثقة العامة في جميع المعلومات.

وأعلنت شركة ميتا أنها ستصنف الفيديو المعني في غضون سبعة أيام.

في الوقت نفسه أطلقت شركة ميتا مجلس الإشراف في عام 2020 كمجموعة شبه مستقلة. من أجل الإشراف على قرارات إدارة المحتوى عبر منصاتها، والتي تشمل فيسبوك وإنستجرام وواتساب.

إذ إنه كثيرًا ما تختلف مع قرارات ميتا، لكن الشركة مع ذلك استمرت في تخفيف نهجها في مراقبة المحتوى. مما يثير تساؤلات حول مدى السلطة التي يمتلكها المجلس فعلياً.

وتعتمد منصة “ميتا” حاليًا بشكل كبير على المستخدمين للإفصاح بأنفسهم عن المحتوى الذي ينشرونه والذي يتم إنتاجه بواسطة أداة ذكاء اصطناعي. وإلا، فإنها تنتظر شكوى من أحد المستخدمين إلى فريق مراقبة المحتوى، والذي قد يقرر حينها وضع علامة على المحتوى.

لكن قال المجلس إنه ينبغي على الشركة أن تقوم بشكل استباقي بتصنيف محتوى الذكاء الاصطناعي المزيف بشكل متكرر أكثر.

بينما قالت إن الأساليب الحالية للشركة ليست قوية ولا شاملة بما يكفي للتعامل مع حجم وسرعة المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. لا سيما أثناء الأزمات أو النزاعات حيث يكون هناك تفاعل متزايد على المنصة.

التزييف العميق

وقد أثارت مراجعة المجلس للمسألة مقطع فيديو نُشر في يونيو الماضي بواسطة حساب على فيسبوك مقره في الفلبين يصف نفسه بأنه مصدر إخباري.

كان هذا الفيديو واحدًا من سلسلة فيديوهات الذكاء الاصطناعي المزيفة التي نشرت على وسائل التواصل الاجتماعي بعد بدء الصراع. والتي احتوت إما على محتوى مؤيد لإسرائيل أو مؤيد لإيران، والتي حصدت بسرعة ما لا يقل عن 100 مليون مشاهدة.

وعلى الرغم من أن فيديو فيسبوك تم إنشاؤه بواسطة الذكاء الاصطناعي ويعرض محتوى غير حقيقي. وعلى الرغم من تلقي ميتا العديد من شكاوى المستخدمين بشأنه، إلا أن الشركة لم تصنف الفيديو على أنه تم إنشاؤه بواسطة الذكاء الاصطناعي أو تحذفه.

لم تستجب شركة ميتا للمخاوف إلا بعد أن قدم أحد مستخدمي فيسبوك التماسًا مباشرًا إلى مجلس الرقابة. وقام المجلس بمعالجة القضية، وفقًا للمجلس.

ثم زعمت الشركة أن الفيديو، الذي حصد ما يقرب من مليون مشاهدة. لا يتطلب أي نوع من التصنيف ولا يحتاج إلى إزالته لأنه لم “يساهم بشكل مباشر في خطر حدوث ضرر جسدي وشيك.

فيما يجب على “ميتا” أن تبذل المزيد من الجهد لمعالجة انتشار المحتوى المضلل الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي على منصاتها . حتى يتمكن المستخدمون من التمييز بين ما هو حقيقي وما هو مزيف”.

وأخيرًا، قالت “ميتا” في بيانها إنها ستلتزم باقتراحات المجلس في المرة القادمة التي تصادف فيها محتوى متطابقًا يكون أيضًا “في نفس السياق” للفيديو الذي راجعه المجلس.

المصدر: bbc