يخلق الذكاء الاصطناعي معضلة للشركات: لا تقم بتنفيذه بعد، وقد تفوتك مكاسب الإنتاجية وغيرها من الفوائد المحتملة؛ ولكن إذا قمت بذلك بشكل خاطئ، فقد تعرض عملك وعملائك لمخاطر لا يمكن تخفيفها. وهنا يأتي دور موجة جديدة من الشركات الناشئة في مجال “أمن الذكاء الاصطناعي”، على أساس أن هذه التهديدات، مثل كسر الحماية والحقن الفوري، لا يمكن تجاهلها.

مثل شركة Noma الإسرائيلية الناشئة ومنافسيها Hidden Layer and Protect AI، تعد الجامعة البريطانية المنفصلة Mindgard واحدة من هذه الشركات. قال الرئيس التنفيذي والمدير التنفيذي للتكنولوجيا، البروفيسور بيتر جاراغان (على اليمين في الصورة أعلاه): “لا يزال الذكاء الاصطناعي برنامجًا، لذا فإن جميع المخاطر السيبرانية التي ربما سمعت عنها تنطبق أيضًا على الذكاء الاصطناعي”. وأضاف: “لكن إذا نظرت إلى الطبيعة الغامضة والسلوك العشوائي الجوهري للشبكات والأنظمة العصبية، فإن هذا يبرر أيضًا اتباع نهج جديد”.

في حالة Mindgard، النهج المذكور هو اختبار أمان التطبيقات الديناميكي للذكاء الاصطناعي (DAST-AI) الذي يستهدف نقاط الضعف التي لا يمكن اكتشافها إلا أثناء وقت التشغيل. يتضمن ذلك تشكيل فريق أحمر مستمر وآلي، وهي طريقة لمحاكاة الهجمات استنادًا إلى مكتبة التهديدات الخاصة بـ Mindgard. على سبيل المثال، يمكنه اختبار قوة مصنفات الصور مقابل المدخلات المتعارضة.

على هذه الجبهة وخارجها، تدين تكنولوجيا Mindgard إلى خلفية جاراغان كأستاذ وباحث يركز على أمن الذكاء الاصطناعي. يتطور هذا المجال بسرعة، ولم يكن ChatGPT موجودًا عندما دخله، لكنه شعر أن البرمجة اللغوية العصبية ونماذج الصور قد تواجه تهديدات جديدة، كما قال لـ TechCrunch.

منذ ذلك الحين، أصبح ما بدا وكأنه يتطلع إلى المستقبل حقيقة واقعة في قطاع سريع النمو، لكن حاملي شهادة الماجستير في القانون يستمرون في التغير، كما تفعل التهديدات. يعتقد جاراغان أن علاقاته المستمرة مع جامعة لانكستر يمكن أن تساعد الشركة على مواكبة ذلك: ستمتلك شركة Mindgard تلقائيًا الملكية الفكرية لعمل 18 باحثًا دكتوراه إضافيًا خلال السنوات القليلة المقبلة. “لا توجد شركة في العالم تحصل على صفقة كهذه.”

على الرغم من ارتباطها بالبحث، إلا أن Mindgard يعد منتجًا تجاريًا إلى حد كبير بالفعل، وبشكل أكثر دقة، منصة SaaS، حيث يقود المؤسس المشارك ستيف ستريت المسؤولية بصفته مدير العمليات ومدير العمليات. (أحد المؤسسين الأوائل، نيراج سوري، الذي شارك في الجانب البحثي، لم يعد يعمل في الشركة).

وقال جاراغان إن الشركات هي عميل طبيعي لشركة Mindgard، كما هو الحال مع أعضاء الفريق الأحمر التقليديين ومختبري القلم، لكن الشركة تعمل أيضًا مع الشركات الناشئة في مجال الذكاء الاصطناعي التي تحتاج إلى أن تُظهر لعملائها أنها تقوم بالوقاية من مخاطر الذكاء الاصطناعي.

نظرًا لأن العديد من هؤلاء العملاء المحتملين يقيمون في الولايات المتحدة، فقد أضافت الشركة بعض النكهة الأمريكية إلى جدول الحد الأقصى الخاص بها. بعد جمع جولة أولية بقيمة 3 ملايين جنيه إسترليني في عام 2023، تعلن Mindgard الآن عن جولة جديدة بقيمة 8 ملايين دولار بقيادة .406 Ventures ومقرها بوسطن، بمشاركة من Atlantic Bridge وWillowTree Investments والمستثمرين الحاليين IQ Capital وLakestar.

سيساعد التمويل في “بناء الفريق، وتطوير المنتجات، والبحث والتطوير، وكل الأشياء التي قد تتوقعها من شركة ناشئة”، ولكنه سيتوسع أيضًا في الولايات المتحدة. يقع مقر نائب الرئيس للتسويق الذي تم تعيينه مؤخرًا، وهو Fergal Glynn، كبير مسؤولي التسويق السابق في Next DLP، في بوسطن. ومع ذلك، تخطط الشركة أيضًا للحفاظ على البحث والتطوير والهندسة في لندن.

مع وجود 15 شخصًا، يعد فريق Mindgard صغيرًا نسبيًا، وسيظل كذلك، مع خطط للوصول إلى 20 إلى 25 شخصًا بحلول نهاية العام المقبل. وذلك لأن أمن الذكاء الاصطناعي “لم يصل إلى ذروته بعد”. ولكن عندما يبدأ الذكاء الاصطناعي في الانتشار في كل مكان، وتتبعه التهديدات الأمنية، فإن Mindgard ستكون جاهزة. يقول جاراغان: “لقد بنينا هذه الشركة لتحقيق الخير الإيجابي للعالم، والشيء الإيجابي هنا هو أنه يمكن للناس أن يثقوا في الذكاء الاصطناعي ويستخدموه بسلامة وأمان”.