في عصر الذكاء الاصطناعي وتصاعد انتشار الفيديوهات المزيفة على مواقع التواصل، ارتفعت المطالبات بالتحقيق في فيديوهات مزيفة “جنسية” تم إنتاجها بواسطة أداة “غروك” لأطفال قصر أحياناً. وقد اعترفت “غروك”، الأداة المدمجة بالذكاء الاصطناعي في منصة “إكس”، بوجود “ثغرات” سمحت للمستخدمين بالحصول على صور جنسية فاضحة تُظهر قاصرين أو نساء، مما أثار انتقادات عالمية ودفع إلى توسيع نطاق التحقيق القضائي في فرنسا. “نعمل على إصلاحها”.
المسؤولية القانونية للشركات
رد برنامج “غروك” الآلي على مستخدم للإنترنت بأن أي شركة في الولايات المتحدة “تُعرّض نفسها للمساءلة المدنية أو الجنائية إذا سهّلت عن علم إنتاج” مواد إباحية للأطفال أو تقاعست عن منعه.
تأثير الثغرات على النساء القاصرات والبالغات
إضافة إلى القاصرين، طالت ثغرات “غروك” أيضاً نساء بالغات، إذ قام البرنامج بتعديل صورهن رقمياً على مواقع التواصل الاجتماعي بناءً على طلب مستخدمي الإنترنت، لكشفهن. وقد وجهت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية إشعاراً رسمياً إلى “إكس” تطالب فيه المنصة بتقديم تقرير مفصل خلال 72 ساعة عن الإجراءات المتخذة لإزالة “المحتوى الفاحش والعاري وغير اللائق والجنسي الصريح” الذي أنشأه تطبيق “غروك” من دون موافقة النساء المعنيات.
التحقيقات المستمرة ضد “إكس”
هذا التحقيق الذي يستهدف “إكس” فتح منذ تموز/يوليو على إثر بلاغات ضد شبكة التواصل الاجتماعي ومسؤوليها، حيث اتهمتهم بالتلاعب بخوارزمية المنصة. كذلك، أعلن الوزراء رولان ليسكور وآن لو أينانف وأورور بيرجيه أنهم أبلغوا النيابة العامة عن “محتويات غير مشروعة”، مطالبين “بسحبها فورا”.
