كشفت تقارير إعلامية عن سيل من مقاطع الفيديو العنصرية، التي اجتاحت تطبيق "تيك توك"، والتي تم إنشاؤها باستخدام نموذج Veo 3 من شركة غوغل، والتي تعتبر أحد أكثر مولدات الفيديو تقدمًا في السوق.
ووفقًا لتقرير نشرته منظمة MediaMatters، ظهرت مؤخراً حسابات على "تيك توك" تبث مقاطع قصيرة لا تتجاوز ثماني ثوانٍ، تحمل مضامين عنصرية فجة، ومعادية للسامية، ومليئة بالصور النمطية المسيئة.
وتستهدف هذه المقاطع في الغالب أصحاب البشرة السمراء، حيث تُصورهم على أنهم "مشتبه بهم دائمون"، وتكرر كاريكاتيرات قديمة تربطهم بالقرود أو توحي بغياب الآباء، إضافة إلى استهداف مهاجرين عبر إيحاءات مسيئة، بحسب تقرير نشره موقع "arstechnica" واطلعت عليه "العربية Business".
ما يزيد الوضع خطورة هو أن هذه المقاطع صُنعت بواسطة Veo 3، نموذج الفيديو القوي من "غوغل"، حيث تظهر علامة "Veo" عليها بوضوح، ما يربطها مباشرة بتكنولوجيا الشركة.
الذكاء الاصطناعي ينفلت من الضوابط
رغم تأكيد "غوغل" على التزامها الصارم بسياسات الأمان عند إطلاق Veo 3 في مايو الماضي، إلا أن اختبارات بسيطة أُجريت على النموذج أظهرت سهولة التلاعب به لإنتاج محتوى عنصري، باستخدام تعليمات مبهمة لكنها فعّالة في تجاوز الحواجز الأخلاقية والتقنية.
ويبدو أن قدرة Veo 3 على تقديم مقاطع عالية الجودة ساهمت في انتشار هذا المحتوى بشكل أوسع، حيث أصبح الذكاء الاصطناعي، بحسب التقرير، وسيلة مقلقة لتعزيز الصور النمطية والكراهية، خاصة على منصات تحظى بشعبية هائلة مثل "تيك توك".
سياسات صارمة وتنفيذ محدود
رغم أن إرشادات مجتمع "تيك توك" تحظر بشكل قاطع خطاب الكراهية بجميع أشكاله، فإن التطبيق لم يتمكن من منع تداول تلك المقاطع، التي حصدت آلاف المشاهدات والتعليقات المحرّضة.
قال متحدث باسم "تيك توك" إن المنصة حظرت أكثر من نصف الحسابات المخالفة الواردة في تقرير "MediaMatters" قبل نشره، وأغلقت ما تبقى بعد ذلك، مؤكدًا أن المنصة تعتمد على مزيج من الخوارزميات والمراجعين البشريين لضبط المحتوى.
لكن التحدي الأكبر، كما يبدو، يكمن في حجم التحميلات الهائل، الذي يصعّب من مهمة الإشراف الفوري، ما يترك ثغرات يستغلها البعض لنشر محتوى تحريضي وخطير.
"غوغل" تحت المجهر
بدورها، تلتزم "غوغل" بسياسات صارمة تحظر استخدام خدماتها لنشر خطاب الكراهية أو المضايقات أو التنمر، لكن تقرير "MediaMatters" أشار إلى أن فيديوهات Veo 3 تندرج بشكل واضح تحت هذه الفئات.
ورغم ذلك، فشل النموذج في منع إنشاء مثل هذه المقاطع، ما يطرح تساؤلات حقيقية حول فعالية الضوابط التقنية التي وضعتها الشركة.
المثير للقلق أن "غوغل" تخطط لإدماج Veo 3 قريبًا في "يوتيوب شورتس"، الأمر الذي قد يفتح الباب واسعًا أمام موجة جديدة من المحتوى المسيء على منصات الفيديو القصيرة.
ورغم أن "غوغل" لم تُصدر حتى الآن تعليقًا رسميًا بشأن الإجراءات الوقائية التي تُطبقها داخل Veo 3، إلا أن التجربة أثبتت أن الخط الفاصل بين الإبداع والإساءة يمكن تجاوزه بسهولة إذا لم تُفرض رقابة صارمة وفعالة.
الذكاء الاصطناعي سلاح ذو حدين
هذه الحادثة تسلط الضوء مجددًا على الجانب المظلم للذكاء الاصطناعي التوليدي، الذي تحول من أداة إبداعية إلى وسيلة يمكن استغلالها لنشر الكراهية والتحريض.
ورغم محاولات شركات التكنولوجيا لفرض "حواجز أمان"، إلا أن النماذج المتقدمة مثل Veo 3 تظل عرضة لسوء الاستخدام، خاصة مع اتساع قدرتها على فهم وتنفيذ الأوامر المبطنة.
وفي ظل تزايد انتشار هذه التقنيات، بات من الضروري إعادة النظر في منظومة الرقابة، وتكثيف الجهود لمكافحة الاستخدام المسيء للذكاء الاصطناعي، قبل أن يتحول إلى أزمة أخلاقية وتقنية يصعب احتواؤها.
