بدأت منصة تيك توك اختبار أداة جديدة مخصصة لرصد المحتوى المولد بالذكاء الاصطناعي الذي ينتحل وجوه صناع المحتوى، في خطوة تعكس تصاعد جهود المنصة لمواجهة مخاطر تقنية التزييف العميق وتعزيز حماية المستخدمين من المحتوى المضلل.
اختبار محدود
أكد المتحدث باسم “تيك توك” في الولايات المتحدة، زاكاري كايزر، أن الأداة لا تزال في مرحلة الاختبار. وتقتصر حاليًا على مجموعة صغيرة من صناع المحتوى داخل الولايات المتحدة.
وتمنح الأداة صناع المحتوى خيار رصد المقاطع أو الصور التي تستخدم وجوههم أو ملامحهم عبر تقنيات الذكاء الاصطناعي. مع إمكانية مراجعة هذه المواد والإبلاغ عنها مباشرة إذا تبين أنها تنتحل هويتهم.
فيما اشترطت المنصة على الراغبين في استخدام الأداة إتمام عملية التحقق من الهوية عبر خدمة Jumio. والتي تتطلب التقاط صورة شخصية مباشرة وإجراء فحص لبطاقة الهوية قبل تفعيل الخدمة.
حماية الهوية
أوضحت “تيك توك” أنها لا تحتفظ بنسخ من وثائق الهوية. بينما تستخدم بيانات الوجه فقط لمطابقة ملامح صاحب الحساب مع المحتوى المُنشأ بالذكاء الاصطناعي الذي قد يوظف صورته أو وجهه دون موافقة.
وتبدأ المنصة، بعد إتمام التحقق، بفحص المحتوى الذي يحتمل أن يتضمن انتحالًا لوجه صانع المحتوى. ثم تعرض النتائج عليه ليقرر الإبلاغ عن المنشورات أو الحسابات المخالفة.
كما تعكس هذه الخطوة تزايد اهتمام منصات التواصل الاجتماعي بمواجهة الاستخدامات المسيئة للذكاء الاصطناعي. خاصة مع الانتشار المتسارع لأدوات إنتاج الصور ومقاطع الفيديو الواقعية المزيفة.
على خطى يوتيوب
يسير “تيك توك” بهذا الاختبار على نهج “يوتيوب”، التي وسعت مؤخرًا أداة اكتشاف انتحال الهوية لتشمل جميع صناع المحتوى المؤهلين ممن تجاوزوا الثامنة عشرة، بعد نجاح مرحلة الاختبارات الأولية.
وسعت “يوتيوب” أيضًا إجراءات الحماية خلال العام الجاري لتشمل المشاهير ووكالات المواهب. في محاولة للحد من إساءة استخدام تقنيات الذكاء الاصطناعي في انتحال الشخصيات العامة.
كما أظهرت التطورات الأخيرة أن مخاطر التزييف العميق لم تعد تقتصر على المحتوى المضلل. بل امتدت إلى تهديد الهوية الرقمية لصناع المحتوى والمؤثرين، ما يدفع الشركات التقنية إلى تطوير أدوات أكثر فاعلية لرصد هذه الانتهاكات.
فيما عززت هذه المخاوف واقعة “ميتا” الأخيرة، بعدما اضطرت الشركة إلى سحب ميزة “Muse Image” خلال ثلاثة أيام فقط من إطلاقها. إثر انتقادات واسعة بسبب استخدامها الصور العامة من “إنستغرام” في إنشاء صور بالذكاء الاصطناعي دون تحقيق الأهداف المرجوة.
