تم فضيحة Redditors في جميع أنحاء العالم الأسبوع الماضي بعد أن علموا أن فريقًا من الباحثين أصدروا مجموعة من الروبوتات التي تعمل بنظام الذكاء الاصطناعى ، والتي تعمل بنظام الذكاء الاصطناعي على “تغيير رأيي”. تم تصميم التجربة الواسعة النطاق لاستكشاف كيف يمكن أن تكون الذكاء الاصطناعي المقنع.

نشرت الروبوتات أكثر من 1700 تعليق ، تتبنى شخصيات مثل الناجين من الإساءة أو الهويات المثيرة للجدل مثل مدافع عن حياة السود.

بالنسبة إلى Reddit ، كان الحادث عبارة عن ليلة صغيرة. ترتبط ماركة Reddit بالأصالة – المكان الذي يأتي فيه الأشخاص الحقيقيون لتبادل الآراء الحقيقية. إذا كان هذا النظام الإيكولوجي الذي يركز على الإنسان يشعر بالانزعاج من الذكاء الاصطناعي أو يصبح مكانًا لا يمكن للناس أن يثقوا فيه بأنهم يحصلون على معلومات من البشر الفعليين ، فقد يفعل أكثر من تهديد الهوية الأساسية لـ Reddit. قد يكون النتيجة النهائية لـ Reddit على المحك ، لأن الشركة تبيع الآن محتوىها إلى Openai للتدريب.

أدانت الشركة “تجربة غير لائقة وغير أخلاقية للغاية” وقدمت شكوى إلى الجامعة التي أدارتها. لكن تلك التجربة لم تكن سوى واحدة مما سيكون على الأرجح مثيلات من روبوتات الذكاء الاصطناعى التوليدي الذي يتظاهر بأنهم بشر على رديت لأسباب متنوعة ، من العلمي إلى التلاعب السياسي.

لحماية المستخدمين من معالجة BOT و “الحفاظ على Reddit Human” ، أشارت الشركة بهدوء إلى إجراء قادم – قد يكون غير شعبي مع المستخدمين الذين يأتون إلى Reddit لسبب آخر: عدم الكشف عن هويته.

في يوم الاثنين ، شارك ستيف هوفمان الرئيس التنفيذي لشركة Reddit في منشور أن Reddit سيبدأ العمل مع “خدمات الطرف الثالث المختلفة” للتحقق من إنسانية المستخدم. يمثل هذا خطوة مهمة للمنصة التي لم تتطلب تاريخياً أي معلومات شخصية تقريبًا للمستخدمين لإنشاء حساب.

وكتب هوفمان: “للحفاظ على Reddit البشري وتلبية المتطلبات التنظيمية المتطورة ، سنحتاج إلى مزيد من المعلومات”. “على وجه التحديد ، سنحتاج إلى معرفة ما إذا كنت إنسانًا ، وفي بعض المواقع ، إذا كنت شخصًا بالغًا. لكننا لا نريد أبدًا معرفة اسمك أو من أنت.”

(بدأت شركات وسائل التواصل الاجتماعي بالفعل في تنفيذ عمليات فحص الهوية بعد تسع ولايات على الأقل والمملكة المتحدة وتصدرت قوانين تفرض التحقق من العمر لحماية الأطفال على منصاتهم.)

ورفض متحدث باسم Reddit شرحه في ظل الظروف التي ستتطلب الشركة من المستخدمين اجتياز عملية التحقق ، على الرغم من أنهم أكدوا أن Reddit يتخذ بالفعل تدابير لحظر الروبوتات “السيئة”. كما أن المتحدث الرسمي لن يشارك المزيد من التفاصيل حول خدمات الطرف الثالث الذي ستستخدمه الشركة أو نوع المعلومات الشخصية التي يجب على المستخدمين تقديمها.

تعتمد العديد من الشركات اليوم على منصات التحقق مثل persona و alloy و stripe hite و plaid و aftprint ، والتي تتطلب عادةً هوية صادرة من الحكومة للتحقق من العمر والإنسانية. ثم هناك تقنية أحدث وأكثر مضاربة ، مثل أدوات Sam Altman للبشرية وجهازها “إثبات الإنسان” الذي يسيطر عليه العين.

يقول المعارضون لفحوصات الهوية أن هناك مخاطر خصوصية البيانات والأمن لمشاركة معلوماتك الشخصية مع منصات الوسائط الاجتماعية. هذا صحيح بشكل خاص بالنسبة لمنصة مثل Reddit ، حيث يأتي الأشخاص لنشر التجارب التي ربما لم يكن لديهم أبدًا إذا تم إرفاق أسمائهم بها.

ليس من الصعب تخيل عالم يمكن للسلطات فيه استدعاء رديت من أجل هوية ، على سبيل المثال ، مراهق حامل يسأل عن تجارب الإجهاض على R/Women في الولايات التي أصبح فيها الآن غير قانوني. انظر فقط كيف سلمت Meta محادثات خاصة بين امرأة من نبراسكا وابنتها البالغة من العمر 17 عامًا ، والتي ناقشت خطط الأخير لإنهاء الحمل. أدت مساعدة ميتا إنفاذ القانون إلى الحصول على أمر تفتيش ، مما أدى إلى تهم جنائية لكل من الأم والابنة.

هذا هو بالضبط المخاطر التي يأمل Reddit في تجنبها من خلال النقر على الشركات الخارجية لتوفير “المعلومات الأساسية ولا شيء آخر” ، لكل هوفمان ، الذي أكد على أنه “لا نريد أبدًا معرفة اسمك أو من أنت”.

وقال “عدم الكشف عن هويته أمر ضروري لـ Reddit”.

أشار الرئيس التنفيذي أيضًا إلى أن Reddit سيظل “محميًا للغاية لمعلوماتك الشخصية” و “سيستمر في التراجع عن المطالب المفرطة أو غير المعقولة من السلطات العامة أو الخاصة”.