⚡ عاجل
تكنولوجيا
أخر الأخبار

خمن كلمات مرور وانسحب ذاتياً.. تفاصيل اختراق “جيميني” لأنظمة 3 شركات

 

خمن كلمات مرور وانسحب ذاتياً.. تفاصيل اختراق “جيميني” لأنظمة 3 شركات

كتبت/هدي احمد

تتزايد التساؤلات حول حدود قدرات نماذج الذكاء الاصطناعي عند اختبارها في مجال الأمن السيبراني، بعدما أفادت تقارير بأن نموذج جيميني التابع لجوجل تمكن خلال اختبار أمني من الوصول إلى أنظمة محمية تخص 3 شركات حقيقية.تفاصيل واقعة التسلل

ووقعت الحالات، بحسب التقارير، خلال مايو الماضي في إطار تقييم أجرته شركة الأمن السيبراني Irregular، فيما أكدت جوجل الواقعة الأسبوع الماضي، في حادثة توصف بأنها أول اختراق معروف لنموذج جيميني لأنظمة حقيقية خلال اختبار من هذا النوع.

وبحسب ما نقلته صحيفة وول ستريت جورنال، تمكن نموذج جيميني من الوصول إلى الإنترنت واختبار قدراته في اختراق أنظمة شركات أخرى، خلال تمرين “Capture the Flag” استضافته البنية التحتية لشركة Irregular.

وفي إحدى الحالات، تمكن النموذج من تخمين كلمة مرور للوصول إلى نظام محمي، بينما استخدم في حالتين أخريين بيانات اعتماد عثر عليها في مستودع عام. وقالت جوجل إن النموذج أنهى عملية التسلل في الحالات الثلاث بعدما أدرك أنه وصل إلى أنظمة تابعة لشركات حقيقية، وليس إلى بيئات محاكاة مخصصة للاختبار.

وأخطرت Irregular جوجل بالوقائع في أواخر يوليو، لكن الشركة لم تؤكدها علنا إلا خلال الأسبوع الماضي، ولم تكشف جوجل عن نموذج جيميني المحدد الذي شارك في الاختبار، لكنها أكدت أنه لم يكن أحدث إصدار من نماذج جيميني.

وقالت جوجل إنها لم تعتبر الواقعة سببا للإعلان عنها في وقت سابق، نظرا إلى أن النموذج لم يتسبب في أضرار وتوقف فور إدراكه أنه وصل إلى أهداف حقيقية بدلا من الأنظمة المحاكاة.

وتعاملت الشركة مع الواقعة بصورة مشابهة لبرنامج مكافآت اكتشاف الثغرات، الذي يهدف إلى اختبار الأنظمة ورصد نقاط الضعف فيها.

ونقلت التقارير عن هيذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، أن الواقعة تبرز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية، مشيرة إلى أن النموذج تصرف بصورة مناسبة في هذه الحالة.

ولا تأتي واقعة جيميني بمعزل عن حوادث مماثلة مرتبطة باختبارات أمنية لنماذج الذكاء الاصطناعي، إذ أعلنت أوبن إيه آي في وقت سابق عن حادث يتعلق بوكلائها ومنصة التطوير Hugging Face، بينما تمكن نموذج تابع لشركة Anthropic أيضا من الوصول إلى شركة حقيقية خلال اختبار “Capture the Flag”.

وتعيد هذه الوقائع طرح تساؤلات حول كيفية اختبار قدرات نماذج الذكاء الاصطناعي في الأمن السيبراني، خصوصا عندما تتعامل مع أنظمة حقيقية بدلا من البيئات المحاكاة، ومدى أهمية وضع ضوابط تمنع انتقال الاختبارات إلى أهداف حقيقية دون قصد.

نقدم لكم من خلال موقع (الرأى العام المصرى )، تغطية ورصدًا مستمرًّا على مدار الـ 24 ساعة لـ أسعار الذهب، أسعار اللحوم ، أسعار الدولار ، أسعار اليورو ، أسعار العملات ، أخبار الرياضة ، أخبار مصر، أخبار اقتصاد ، أخبار المحافظات ، أخبار السياسة، ويقوم فريقنا بمتابعة حصرية لجميع الأحداث الهامة و السياسة الخارجية والداخلية بالإضافة للنقل الحصري لـ أخبار الفن والعديد من الأنشطة الثقافية والأدبية.

لمتابعة صفحة الرأى العام المصرى على فيس بوك اضغط هنا

لمتابعة صفحة الرأى العام المصرى نيوز  على فيس بوك اضغط هنا

لمتابعة صفحة قناة نيو دريم   على فيس بوك اضغط هنا

لمتابعة الرأى العام المصرى على الانستجرام اضغط هنا 

لمتابعة الرأى العام المصرى على الواتساب اضغط هنا 

لمتابعة الرأى العام المصرى على التليجرام  اضغط هنا 

لمتابعة الرأى العام المصرى على تويتر  اضغط هنا 

لمتابعة الرأى العام المصرى على اليوتيوب  اضغط هنا

لمتابعة الرأى العام المصرى على التيك توك اضغط هنا

لمتابعة الرأى العام المصرى على كواى  اضغط هنا

 

تم نسخ رابط الخبر