يحتوي الذكاء الاصطناعي التوليدي على عدد كبير من إساءة الاستخدام الموثقة جيدًا، بدءًا من إعداد الأبحاث الأكاديمية وحتى تقليد الفنانين. والآن، يبدو أنها تظهر في عمليات نفوذ الدولة.

إحدى الحملات الأخيرة كانت “على الأرجح” مدعومة بمنتجات توليد الصوت بالذكاء الاصطناعي التجارية، بما في ذلك التكنولوجيا التي أصدرتها الشركة الناشئة ElevenLabs، وفقًا لتقرير حديث صادر عن شركة استخبارات التهديدات Recorded Future ومقرها ماساتشوستس.

ويصف التقرير حملة مرتبطة بروسيا تهدف إلى تقويض الدعم الأوروبي لأوكرانيا، والتي يطلق عليها اسم “عملية تقويض”، والتي استخدمت بشكل بارز التعليقات الصوتية التي أنشأها الذكاء الاصطناعي على مقاطع فيديو “أخبار” مزيفة أو مضللة.

وهاجمت مقاطع الفيديو، التي استهدفت الجماهير الأوروبية، السياسيين الأوكرانيين ووصفتهم بالفاسدين أو شككت في فائدة المساعدات العسكرية لأوكرانيا، من بين مواضيع أخرى. على سبيل المثال، روج أحد مقاطع الفيديو قائلاً: “حتى أجهزة التشويش غير قادرة على إنقاذ دبابات أبرامز الأميركية”، في إشارة إلى الأجهزة التي تستخدمها الدبابات الأميركية لصد الصواريخ القادمة ــ وهو ما يعزز فكرة مفادها أن إرسال دروع عالية التقنية إلى أوكرانيا لا طائل من ورائه.

يشير التقرير إلى أن منشئي الفيديو استخدموا “على الأرجح” الذكاء الاصطناعي المولد بالصوت، بما في ذلك تقنية ElevenLabs، لجعل المحتوى الخاص بهم يبدو أكثر شرعية. للتحقق من ذلك، أرسل باحثو Recorded Future المقاطع إلى AI Speech Classifier الخاص بـ ElevenLabs، والذي يوفر القدرة لأي شخص على “اكتشاف ما إذا كان قد تم إنشاء مقطع صوتي باستخدام ElevenLabs”، وحصل على تطابق.

لم يستجب ElevenLabs لطلبات التعليق. على الرغم من أن شركة Recorded Future لاحظت الاستخدام المحتمل للعديد من أدوات توليد الصوت التجارية التي تعمل بالذكاء الاصطناعي، إلا أنها لم تذكر أسماء أي أدوات أخرى إلى جانب ElevenLabs.

وقد تم عرض فائدة توليد الصوت بواسطة الذكاء الاصطناعي عن غير قصد من قبل منسقي حملة التأثير، الذين أصدروا ــ بشكل غير متقن ــ بعض مقاطع الفيديو التي تحتوي على تعليقات صوتية بشرية حقيقية تحمل “لكنة روسية واضحة”. في المقابل، تحدثت التعليقات الصوتية التي أنشأها الذكاء الاصطناعي بلغات أوروبية متعددة مثل الإنجليزية والفرنسية والألمانية والبولندية، دون أي لهجات تبدو أجنبية.

وفقًا لـ Recorded Future، سمح الذكاء الاصطناعي أيضًا بإصدار المقاطع المضللة بسرعة بلغات متعددة يتم التحدث بها في أوروبا مثل الإنجليزية والألمانية والفرنسية والبولندية والتركية (بالمناسبة، جميع اللغات مدعومة من ElevenLabs).

أرجعت شركة Recorded Future هذا النشاط إلى وكالة التصميم الاجتماعي، وهي منظمة مقرها روسيا فرضت عليها الحكومة الأمريكية عقوبات في شهر مارس الماضي بسبب تشغيلها “شبكة تضم أكثر من 60 موقعًا إلكترونيًا تنتحل صفة مؤسسات إخبارية حقيقية في أوروبا، ثم تستخدم حسابات وهمية على وسائل التواصل الاجتماعي لتضخيم المعلومات المضللة”. محتوى المواقع المزيفة.” وقالت وزارة الخارجية الأمريكية في ذلك الوقت إن كل هذا تم “نيابة عن حكومة الاتحاد الروسي”.

وخلصت شركة ريكورديد فيوتشر إلى أن التأثير الإجمالي للحملة على الرأي العام في أوروبا كان ضئيلا.

هذه ليست المرة الأولى التي يتم فيها تسليط الضوء على منتجات ElevenLabs بسبب سوء الاستخدام المزعوم. كانت تقنية الشركة وراء مكالمة آلية تنتحل شخصية الرئيس جو بايدن والتي حثت الناخبين على عدم الخروج والتصويت خلال الانتخابات التمهيدية في يناير 2024، حسبما خلصت شركة كشف الاحتيال الصوتي، وفقًا لبلومبرج. ردًا على ذلك، قالت ElevenLabs إنها أصدرت ميزات أمان جديدة مثل حجب أصوات السياسيين تلقائيًا.

تحظر ElevenLabs “انتحال الشخصية غير المصرح به أو الضار أو المخادع” وتقول إنها تستخدم أدوات مختلفة لفرض ذلك، مثل الإشراف الآلي والبشري.

شهدت ElevenLabs نموًا هائلاً منذ تأسيسها في عام 2022. وقد زادت مؤخرًا معدل العائد السنوي إلى 80 مليون دولار من 25 مليون دولار أقل من العام السابق، وقد تبلغ قيمتها قريبًا 3 مليارات دولار، حسبما ذكرت TechCrunch سابقًا. ومن بين مستثمريها أندريسن هورويتز والرئيس التنفيذي السابق لشركة جيثب نات فريدمان.