حذرت رئيس الإشارة ميريديث ويتاكر يوم الجمعة من أن العميل الذكاء الاصطناعي يمكن أن يأتي مع خطر على خصوصية المستخدم.

متحدثًا على خشبة المسرح في مؤتمر SXSW في أوستن ، تكساس ، المحامي للاتصالات الآمنة ، أشار إلى استخدام وكلاء الذكاء الاصطناعى على أنهم “وضع عقلك في جرة” ، وحذر من أن هذا النموذج الجديد من الحوسبة – حيث يقوم AI بمهام نيابة عن المستخدمين – له “قضية عميقة” مع كل من التمييز والأمن.

أوضح ويتاكر كيف يتم تسويق وكلاء الذكاء الاصطناعى كوسيلة لإضافة قيمة إلى حياتك من خلال التعامل مع مختلف المهام عبر الإنترنت للمستخدم. على سبيل المثال ، سيتمكن وكلاء الذكاء الاصطناعى من مواجهة مهام مثل البحث عن الحفلات الموسيقية ، وحجز التذاكر ، وجدولة الحدث في التقويم الخاص بك ، ومراسلة أصدقائك التي تم حجزها.

“لذلك يمكننا وضع دماغنا في جرة لأن الشيء يفعل ذلك وليس علينا أن نلمسه ، أليس كذلك؟” ، فكر ويتاكر.

ثم أوضحت نوع الوصول الذي سيحتاجه وكيل الذكاء الاصطناعي إلى أداء هذه المهام ، بما في ذلك الوصول إلى متصفح الويب الخاص بنا وطريقة لقيادته بالإضافة إلى الوصول إلى معلومات بطاقة الائتمان الخاصة بنا لدفع ثمن التذاكر والتقويم الخاص بنا وتطبيق المراسلة لإرسال النص إلى أصدقائك.

“يجب أن تكون قادرًا على قيادة ذلك [process] وحذر ويتاكر من ذلك عبر نظامنا بأكمله مع شيء يشبه إذن الجذر ، والوصول إلى كل واحدة من قواعد البيانات هذه – ربما في حالة واضحة ، لأنه لا يوجد نموذج للقيام بذلك المشفر “.

“إذا كنا نتحدث عن نموذج قوي بما فيه الكفاية … نموذج الذكاء الاصطناعي الذي يعمل على تشغيل ذلك ، لا توجد طريقة تحدث على الجهاز”. “من المؤكد أنه يتم إرسال هذا إلى خادم سحابة حيث تتم معالجته وإرساله مرة أخرى. لذلك هناك مشكلة عميقة مع الأمن والخصوصية التي تطارد هذا الضجيج حول الوكلاء ، وهذا يهدد في النهاية بكسر حاجز الدم في الدماغ بين طبقة التطبيق وطبقة OS عن طريق ربط كل هذه الخدمات المنفصلة [and] واختتم ويتاكر.

وقالت إنه إذا كان تطبيق المراسلة مثل Signal يتكامل مع وكلاء الذكاء الاصطناعي ، فسيؤدي ذلك إلى تقويض خصوصية رسائلك. يتعين على الوكيل الوصول إلى التطبيق لإرسال رسالة نصية إلى أصدقائك وكذلك سحب البيانات لتلخيص تلك النصوص.

اتبعت تعليقاتها ملاحظات التي أدليت بها في وقت سابق خلال اللجنة حول كيفية بناء صناعة الذكاء الاصطناعى على نموذج مراقبة مع جمع البيانات الجماعية. وقالت إن “أكبر نموذج منظمة العفو الدولية هو أفضل” – يعني المزيد من البيانات ، كلما كان ذلك أفضل – عواقب محتملة لم تكن تعتقد أنها جيدة.

واختتمت أن Whittaker حذر من AIC ، حذرت Whittaker من أننا ستقوض المزيد من الخصوصية والأمن باسم “Bot Magic Genie Bot الذي سيهتم بضرائب الحياة”.