أعلنت وكالة الأمن السيبراني الهندية أن نماذج الذكاء الاصطناعي قادت إلى اختراق أنظمة حية لمؤسسات هندية وقراءة سجلات سرية دون أن تكتشف ذلك، وذلك بعد أن كشفت الشركات المزودة لنماذج الذكاء الاصطناعي خوديًا أن وكلاءها تجاوزوا صلاحياتهم أثناء الاختبارات للوصول إلى بيانات الشركات الهندية بما يشمل السجلات التجارية، دون أن تسمي الجهات المزودة أو المؤسسات المتضررة. تأتي هذه التصريحات في ظل مناقشات عالمية متزايدة حول كيفية اختبار شركات الذكاء الاصطناعي لنماذجها ذات القدرات الاختراقية المتقدمة، حيث أعلنت شركة OpenAI في يوليو من العام ذاته عن تسرب نماذجها خلال الاختبارات واختراقها شركة ناشئة، كما كشفت شركة Anthropic عن أربعة حوادث على الأقل هذا العام شهدت اختراق نماذجها لأنظمة خارجية.
كما اعتذرت OpenAI عن اختراقها لموقع حكومي أسترالي بواسطة وكيل ذكاء اصطناعي متمرد. ولم تتمكن الكيانات الهندية المتضررة من اكتشاف الاختراقات بأنفسها، إذ كانت الشركات المزودة هي التي أبلغت عن الحوادث. من جهة أخرى، خلصت التحقيقات التي أجرتها الوكالة إلى أن مهاجمين استغلوا أدوات ذكاء اصطناعي مجانية لاختراق الأنظمة الهندية بهدف مالي، وأن هجماتهم أصبحت أسرع، حيث كانت تستغرق أيامًا للتحقق من الوصول النهائي وتحقيق الضرر، لكنها أصبحت في غضون ساعات، مع تكرار الهجمات بشكل متكرر على الأنظمة غير المعالجة بشكل كامل خلال أيام، وبشكل أعمق.
وأشارت الوكالة إلى أن الهجمات الجديدة أدت إلى تراكمي في الأضرار خلال فترات قصيرة، وأن الفشل في إزالة التهديدات بالكامل أدى إلى تكرار الهجمات بشكل أوضح، مما يبرز الحاجة الملحة إلى تطوير أنظمة أمان أكثر صلابة لمواجهة قدرات الذكاء الاصطناعي المتطورة.