كتبت /هينار ثروت

تفتح تقنيات الذكاء الاصطناعى الوكيلى بابًا جديدًا أمام الشركات لإنجاز المهام وتحليل البيانات والوصول إلى المستندات بصورة أكثر سرعة، لكنها فى الوقت نفسه تفرض تحديات أمنية مختلفة عن تلك المرتبطة بالبرمجيات التقليدية. وأظهرت تجربة حديثة مع وكلاء مبنيين على Azure OpenAI أن خللًا فى طريقة تطبيق صلاحيات الوصول على البيانات يمكن أن يدفع النظام إلى إظهار مستندات لم يكن من المفترض أن يتمكن بعض المستخدمين من الوصول إليها.

وتكمن خطورة السيناريو فى أنه لا يحتاج بالضرورة إلى فيروس أو اختراق تقليدى للشبكة، وإنما قد يحدث نتيجة وجود فجوة بين صلاحيات المستخدم الفعلية وآلية استرجاع المعلومات التى يعتمد عليها وكيل الذكاء الاصطناعى.

المشكلة تبدأ من طريقة استرجاع البيانات

ظهرت المشكلة أثناء تجربة مساعد بريد إلكترونى مبنى على Azure OpenAI ومتصلاً بمستندات مخزنة فى SharePoint. وبحسب تقرير نشر فى الأول من سبتمبر، اكتشف مهندس يعمل لدى شريك لمايكروسوفت أن حسابًا منخفض الصلاحيات تمكن من الحصول على محتوى لم يكن يستطيع فتحه مباشرة من SharePoint.

وكان المساعد يستخدم تقنيات البحث والاسترجاع لإحضار المعلومات المناسبة للإجابة عن أسئلة المستخدم. لكن الاختبارات كشفت أن النظام لم يكن يطبق حدود الصلاحيات بالطريقة المطلوبة فى جميع الحالات، وهو ما جعل إجابة الذكاء الاصطناعى تكشف محتوى مقيدًا بدلًا من رفض الطلب.

لا يوجد اختراق تقليدى

اللافت فى هذه الحالة أن الوصول إلى البيانات لم يكن نتيجة هجوم إلكترونى تقليدى، مثل زرع برمجيات خبيثة أو السيطرة على خادم. المشكلة ارتبطت بما يعرف بأمن RAG، أى تقنية الاسترجاع المعزز بالتوليد، التى تسمح للنموذج بالبحث داخل مصادر بيانات خارجية قبل صياغة الإجابة.

وتصبح هذه العملية أكثر تعقيدًا عندما تكون البيانات مقسمة وفق مستويات مختلفة من الصلاحيات. فإذا تمكن نظام الاسترجاع من رؤية وثيقة بسبب امتلاكه صلاحيات واسعة، لكنه لم يتحقق من صلاحيات الشخص الذى طرح السؤال، فقد تصل المعلومات إلى المستخدم الخطأ من خلال إجابة تبدو طبيعية تمامًا.

وهنا تكمن إحدى أخطر مشكلات الذكاء الاصطناعى الوكيلى: النظام قد لا يحتاج إلى «سرقة» البيانات، بل يكفى أن تكون لديه صلاحية الوصول إليها بطريقة لا تتطابق مع صلاحيات المستخدم النهائى.

الاختبارات التقليدية قد لا تكشف المشكلة

أشارت التجربة إلى أن الاختبارات الأولية للمساعد حققت نتائج جيدة، بينما ظهر الخلل عند استخدام حساب منخفض الصلاحيات بعد طرح أسئلة مشابهة لتلك التى طُرحت من حساب يتمتع بصلاحيات أعلى.

وتكشف هذه النقطة أهمية اختبار الأنظمة الذكية باستخدام مستخدمين يمتلكون مستويات وصول مختلفة، وعدم الاكتفاء بالتأكد من أن النموذج يقدم إجابات صحيحة من الناحية المعلوماتية.

فالإجابة الصحيحة ليست بالضرورة إجابة آمنة، إذا كانت المعلومات التى استندت إليها لا يملك المستخدم حق الاطلاع عليها.

كيف تحاول Microsoft معالجة المخاطر؟

تتيح منظومة Azure أدوات لتطبيق ضوابط الوصول على مستوى المستندات والاستعلامات، بما فى ذلك آليات مرتبطة بالهوية والصلاحيات. وتوضح وثائق Microsoft أن Azure AI Search يدعم تطبيق قيود الوصول إلى المستندات وقت تنفيذ الاستعلام، بما يساعد على منع ظهور المحتوى غير المسموح به للمستخدم.

كما توضح Microsoft أن بيانات العملاء المستخدمة مع نماذج Azure OpenAI تظل مخزنة ضمن الموارد والبيئات المحددة وفق إعدادات الخدمة، مع تشفير البيانات المخزنة وإتاحة إمكانية حذف البيانات من جانب العميل فى الحالات المدعومة.

لكن وجود أدوات للحماية لا يعنى أن إعداد النظام يتم بصورة آمنة تلقائيًا، إذ يظل تصميم تطبيق الذكاء الاصطناعى وطريقة ربطه بمصادر البيانات وتطبيق الصلاحيات عوامل حاسمة.

الذكاء الاصطناعى يغير مفهوم أمن البيانات

مع انتقال المؤسسات من روبوتات المحادثة التى تجيب عن الأسئلة إلى وكلاء قادرين على البحث فى الملفات وتنفيذ المهام واستخدام التطبيقات، أصبحت حدود الصلاحيات أكثر أهمية.

فالوكيل الذكى قد يمتلك القدرة على الوصول إلى البريد الإلكترونى والملفات وقواعد البيانات وأنظمة العمل فى الوقت نفسه، ما يجعل أى خطأ فى تحديد ما يستطيع رؤيته أو مشاركته أكثر تأثيرًا من خطأ داخل تطبيق تقليدى.

ولهذا تتجه أدوات الحماية الحديثة إلى مراقبة تطبيقات الذكاء الاصطناعى أثناء التشغيل واكتشاف الأنشطة غير الآمنة، وهو مجال تعمل Microsoft أيضًا على تطوير أدوات مخصصة له ضمن Defender for Cloud.

الدرس الأهم للشركات

توضح هذه الحالة أن تأمين الذكاء الاصطناعى لا يتوقف عند حماية النموذج نفسه، وإنما يمتد إلى كل البيانات والأدوات والأنظمة التى يتصل بها. وكلما زادت صلاحيات الوكيل، أصبحت الحاجة أكبر إلى تطبيق مبدأ أقل قدر من الصلاحيات، والتحقق من هوية المستخدم قبل إظهار أى محتوى، واختبار النظام باستخدام حسابات مختلفة الصلاحيات.

ومع توسع استخدام Azure OpenAI والوكلاء الذكيين داخل الشركات، قد تصبح حماية البيانات من «التسرب عبر الإجابة» تحديًا رئيسيًا فى أمن المعلومات، حتى فى غياب أى اختراق أو برمجيات خبيثة.