مؤسسة (IWF) هي واحدة من ثلاث جمعيات خيرية في العالم مرخصة للبحث عن محتوى إساءة معاملة الأطفال عبر الإنترنت.

بدأت في رصد وتسجيل صور الذكاء الاصطناعي في 24 مايو/ أيار وتقول إنه بحلول 30 يونيو/ حزيران أجرى المحللون تحقيقات في 29 موقعا، وأكدوا وجود سبع صفحات تشارك صورا من هذا النوع.

لم تؤكد المؤسسة الخيرية العدد الدقيق للصور، لكنها تقول إن العشرات من صور الذكاء الاصطناعي كانت منشورة مع مواد فيها انتهاكات جنسية، يتم مشاركتها على المواقع غير القانونية.

بعضها كان ما يصنفه الخبراء على أنه صور من الفئة (أ) – وهي الصور التي تمثل أكبر انتهاكا ممكنا.

وبطبيعة الحال يعد إنشاء صور تنطوي على انتهاكات جنسية للأطفال أمرا غير قانوني في كل بلدان العالم تقريبا.

وقالت هارغريفز: “لدينا فرصة الآن لاستباق مخاطر هذه التكنولوجيا الناشئة، لكن التشريعات والقوانين ينبغي أن تأخذ الأمر في عين الاعتبار، ويجب أن تكون هذه التشريعات مناسبة وحاسمة في ضوء هذا التهديد الجديد”.

في يونيو/ حزيران الماضي، أعلن رئيس الوزراء البريطاني ريشي سوناك عن خطط للمملكة المتحدة لاستضافة أول قمة عالمية حول أمن وسلامة استخدام الذكاء الاصطناعي.

وتتعهد الحكومة بجمع الخبراء والمشرعين للنظر في مخاطر الذكاء الاصطناعي ومناقشة كيفية التخفيف من حدتها من خلال إجراءات تُنسق دوليا.

كجزء من عملهم، يسجل محللو مؤسسة (IWF) التوجهات والنشاطات المشبوهة، مثل الارتفاع الأخير في ما يسمى بمحتوى “الإنشاء الذاتي”، حيث يحتال المنتهكون على الأطفال لإجبارهم على إرسال مقاطع فيديو أو صور لأنفسهم .

تشعر المؤسسة الخيرية بالقلق من أن الصور المسيئة المنتَجة بواسطة الذكاء الاصطناعي باتت أمرا متزايد الحدوث، على الرغم من أن عدد الصور المكتشفة لا يزال جزءا صغيرا من الأشكال الأخرى للمحتوى المسيء.

في عام 2022 ،عكفت المؤسسة على رصد أكثر من 250.000 صفحة على الإنترنت تحتوي على صور انتهاكات جنسية بحق الأطفال.

قام المحللون أيضا بتسجيل المحادثات في المنتديات بين المنتهكين، الذين شاركوا نصائح حول كيفية إنتاج صور الأطفال بحيث تبدو واقعية.

وتوصل المحللون إلى أدلة حول كيفية خداع الذكاء الاصطناعي للتمكن من رسم صور من هذا النوع، وكيفية تحميل نماذج للذكاء الاصطناعي ذات مصادر مفتوحة متاحة للجميع، وكذلك كيفية إزالة حواجز ووسائل الأمان التي تكون موجودة عادة في تلك المصادر.

في حين أن معظم منشئي صور الذكاء الاصطناعي لديهم قواعد صارمة لمنع المستخدمين من إنشاء محتوى بكلمات أو عبارات محظورة، إلا أنه يمكن تحميل النماذج والمواقع المفتوحة والمتاحة للجميع مجانا، وتعديلها كما يريد المستخدم.

المصدر الأكثر شيوعا هو Stable Diffusion. تم إصدار الرمز “الكود” الخاص به على الإنترنت ليكون متاحا للعامة في أغسطس / آب 2022 من قبل فريق من أكاديميي الذكاء الاصطناعي الألمان.

تحدثت بي بي سي إلى شخص يستخدم نسخة متخصصة من برنامج Stable Diffusion لإنتاج صور جنسية للفتيات في سن ما قبل المراهقة.

وزعم الرجل الياباني أن صوره “اللطيفة” لها ما يبررها، وقال إنها “المرة الأولى في التاريخ التي يمكن فيها إنتاج صور للأطفال دون استغلال أطفال حقيقيين”.

لكن على الرغم من ذلك يرى الخبراء أن تلك الصور يمكن أن تسبب أضرارا جسيمة.

قال الدكتور مايكل بورك، المتخصص في قضايا مرتكبي الجرائم الجنسية والاستغلال الجنسي للأطفال في الوكالة الفدرالية لإنفاذ القانون في الولايات المتحدة United States Marshals Service: “ليس لدي أدنى شك في أن الصور التي أُنتجت بواسطة الذكاء الاصطناعي ستزيد من هذه الميول، وتعزز هذا الانحراف، وستؤدي إلى ضرر أكبر ومخاطر أكبر لإلحاق الأذى بالأطفال في جميع أنحاء العالم”.

دافع البروفيسور بيورن أومر، أحد مطوري برنامج Stable Diffusion الرئيسيين، عن قراره جعل البرنامج مصدرا مفتوحا متاحا للجميع. وقال لبي بي سي إن المئات من مشاريع البحث الأكاديمي قد أُنجزت منذ ذلك الحين، بما في ذلك ما حققه العديد من الشركات المزدهرة.

ويرى البروفيسور أومر أن ذلك تأكيد على صواب قراره وقرار فريقه، ويؤكد على أن وقف البحث أو التطوير ليس هو الحل المناسب.

ويقول البروفيسو أومر: “نحتاج بالفعل إلى مواجهة حقيقة أن تطور الذكاء الاصطناعي تطورعالمي، ولن يوقف منعه هنا تطوير هذه التكنولوجيا عالميا في البلدان الأخرى التي ربما تكون مجتمعاتها غير ديمقراطية… نحتاج إلى تحديد خطوات وتدابيرمناسبة لتقنين هذه التكنولوجيا التي نشهد تطورها بسرعة مذهلة”.

تعتبر شركة Stability AI، التي ساعدت في تمويل تطوير آخر نموذج قبل الإطلاق الرسمي للذكاء الاصطناعي، واحدة من أبرز الشركات التي تعكف على تطوير إصدارات جديدة من برنامج Stable Diffusion. وقد رفضت الشركة إجراء مقابلة، لكنها قالت في السابق إنها تحظر أي إساءة استخدام لنسخها من الذكاء الاصطناعي لأغراض غير قانونية أو غير أخلاقية.