قد يبدو الذكاء الاصطناعي التوليدي وكأنه سحر، ولكن وراء تطوير هذه الأنظمة هناك جيوش من الموظفين في شركات مثل Google وOpenAI وغيرهما، المعروفين باسم “المهندسين الفوريين” والمحللين، الذين يقيمون دقة مخرجات روبوتات الدردشة لتحسين الذكاء الاصطناعي لديهم.

لكن المبدأ التوجيهي الداخلي الجديد الذي تم تمريره من Google إلى المقاولين العاملين في Gemini، والذي اطلعت عليه TechCrunch، أدى إلى مخاوف من أن Gemini قد يكون أكثر عرضة لنشر معلومات غير دقيقة حول موضوعات حساسة للغاية، مثل الرعاية الصحية، للأشخاص العاديين.

ولتحسين نظام جيميني، يُطلب بشكل روتيني من المتعاقدين الذين يعملون مع شركة جلوبال لوجيك، وهي شركة الاستعانة بمصادر خارجية مملوكة لشركة هيتاشي، تقييم الاستجابات التي يولدها الذكاء الاصطناعي وفقا لعوامل مثل “الصدق”.

كان هؤلاء المتعاقدون حتى وقت قريب قادرين على “تخطي” بعض المطالبات، وبالتالي إلغاء الاشتراك في تقييم الاستجابات المختلفة المكتوبة بواسطة الذكاء الاصطناعي لتلك المطالبات، إذا كانت المطالبة خارج نطاق خبرتهم. على سبيل المثال، يمكن للمقاول تخطي مطالبة تطرح سؤالاً متخصصًا حول أمراض القلب لأن المقاول ليس لديه خلفية علمية.

لكن في الأسبوع الماضي، أعلنت شركة GlobalLogic عن تغيير من جانب Google، حيث لم يعد يُسمح للمقاولين بتخطي مثل هذه المطالبات، بغض النظر عن خبرتهم الخاصة.

تُظهر المراسلات الداخلية التي اطلعت عليها TechCrunch أنه في السابق، كانت الإرشادات تنص على ما يلي: “إذا لم تكن لديك خبرة مهمة (مثل البرمجة والرياضيات) لتقييم هذه المطالبة، فيرجى تخطي هذه المهمة”.

ولكن الآن تنص الإرشادات على ما يلي: “يجب ألا تتخطى المطالبات التي تتطلب معرفة متخصصة بالمجال”. وبدلاً من ذلك، يُطلب من المقاولين “تقييم أجزاء المطالبة التي تفهمها” وإدراج ملاحظة مفادها أنهم لا يملكون معرفة بالمجال.

وقد أدى ذلك إلى مخاوف مباشرة بشأن دقة جيميني في موضوعات معينة، حيث يتم تكليف المقاولين أحيانًا بتقييم استجابات الذكاء الاصطناعي عالية التقنية حول قضايا مثل الأمراض النادرة التي ليس لديهم خلفية عنها.

“اعتقدت أن الهدف من التخطي هو زيادة الدقة من خلال إعطائها لشخص أفضل؟” تمت الإشارة إلى أحد المقاولين في المراسلات الداخلية، التي شاهدتها TechCrunch.

يمكن للمقاولين الآن تخطي المطالبات فقط في حالتين: إذا كانت “معلومات مفقودة تمامًا” مثل المطالبة الكاملة أو الاستجابة، أو إذا كانت تحتوي على محتوى ضار يتطلب نماذج موافقة خاصة لتقييمها، كما تظهر الإرشادات الجديدة.

لم تستجب Google لطلبات TechCrunch للتعليق حتى وقت النشر.