اختراق «غير مسبوق».. خروج نماذج ذكاء اصطناعى لشركة «OpenAI» عن السيطرة أثناء اختبارها
إلى نماذجها المتطورة للذكاء الاصطناعى – قد خرج عن نطاق السيطرة أثناء اختبار أمنى، وتسبب فى عملية اختراق أضرت بالبنية التحتية لشركة «Hugging Face» الناشئة فى مجال الذكاء الاصطناعى الأسبوع الماضى.
كانت الشركة المطورة لروبوت الدردشة المدعوم بالذكاء الاصطناعى «ChatGPT» تختبر قدرات بعض نماذجها الأكثر تطورًا فى بيئة خاضعة للرقابة، إلا أن الوكيل البرمجى تمكن من تجاوز قيود الاحتواء والوصول إلى شبكة الإنترنت، ثم اخترق أنظمة «Hugging Face» سعيًا لتحقيق الهدف المحدد للاختبار، بحسب ما ذكرته وكالة «رويترز».
وتشير هذه الحادثة إلى أن القدرات المتنامية للذكاء الاصطناعى باتت تغذى بالفعل التهديد الأمنى الذى طالما حذر منه الخبراء، وأن حتى كبار المطورين قد يُؤخذون على حين غرة بسبب ثغرات يمكن لنماذجهم استغلالها.
وذكرت شركة «OpenAI» فى تدوينة لها أن هذا الاختراق كان حادثة سيبرانية غير مسبوقة تنطوى على استخدام قدرات سيبرانية متطورة للغاية، مؤكدة أنها تعمل على تعزيز تدابير الحماية لديها.
وقال توماس وولف، الشريك المؤسس لشركة «Hugging Face»، عبر موقع التواصل الاجتماعى «إكس»: «عندما تتعرض لهجوم من نموذج ذكاء اصطناعى متطور للغاية يتحرك بشكل جانبى داخل بنيتك التحتية، فإن المدافعين يحتاجون إلى إمكانية الوصول السريع…
المصدر: المصرى اليوم تكنولوجيا
