حسب التقرير، تبادل مستخدمون عبر منصة التواصل الاجتماعي “ريديت” إرشادات حول كيفية التحايل على أنظمة الحماية في أدوات الذكاء الاصطناعي، بهدف تعديل صور النساء لجعلهن يظهرن بملابس كاشفة. وقد ظهر ذلك في منشور محذوف ناقش فيه المستخدمون طرق دفع نموذج Gemini التابع لشركة جوجل لتوليد هذا النوع من الصور.
مخالفات سياسات المنصة
أكد متحدث باسم ريديت أن هذا السلوك يتعارض مع سياسات المنصة، كما تم حظر مجتمع “r/ChatGPTJailbreak” الذي كان يضم أكثر من 200 ألف عضو بسبب انتهاكه لقواعد المنصة، حيث كان الأعضاء يتبادلون طرق التحايل على أنظمة الحماية في أدوات الذكاء الاصطناعي.
مخاوف من إساءة الاستخدام
تتزايد المخاوف من إساءة استخدام أدوات الذكاء الاصطناعي القادرة على إنتاج صور واقعية لكنها غير حقيقية، وإمكانية استخدامها لتعديل صور الأشخاص بغرض الإساءة إليهم والتشهير بهم. على الرغم من أن معظم روبوتات الدردشة الشهيرة مثل Gemini وChatGPT تمنع عادةً إنشاء صور إباحية وتعتمد على أنظمة حماية، فإن بعض المستخدمين ينجحون في تجاوز هذه القيود.
تطور أدوات الذكاء الاصطناعي
في نوفمبر الماضي، أطلقت جوجل نموذج الصور الجديد Nano Banana Pro، المتخصص في تعديل الصور وإنشاء صور شديدة الواقعية. وردّت OpenAI لاحقًا بإطلاق نموذجها المحدّث ChatGPT Images. يحذّر خبراء من أن تطور هذه الأدوات قد يجعل الصور المزيفة أكثر إقناعًا في حال تجاوز أنظمة الحماية.
التزام الشركات بالسياسات
أفادت جوجل بأن لديها “سياسات واضحة تمنع استخدام أدواتها في إنشاء محتوى جنسي صريح”، مؤكدةً العمل المستمر على تحسين الالتزام بهذه السياسات. من جانبها، أوضحت OpenAI أنها تمنع تعديل مظهر أي شخص حقيقي دون موافقته، مع اتخاذ إجراءات قد تصل إلى حظر الحسابات المخالفة.