بأحد نماذج الذكاء الاصطناعى باختراق « أوبن إيه آى » لمنصة Hugging Face، لا تعنى أن النظام أصبح واعيًا أو قرر التمرد من تلقاء نفسه، وإنما تؤكد أن وكلاء الذكاء الاصطناعى باتوا قادرين على تنفيذ سلاسل طويلة ومعقدة من القرارات، مشيرًا إلى أن الخطر الحقيقى يكمن فى تحديد أهداف غير دقيقة، ومنح صلاحيات واسعة، ووجود بيئات تشغيل غير مؤمنة بالشكل الكافى.
وأوضح عبيدات، خلال مداخلة عبر برنامج «صباح جديد» المذاع على قناة القاهرة الإخبارية، أن الحادثة تفرض على شركات الذكاء الاصطناعى، وفى مقدمتها «أوبن إيه آي»، اعتماد مستوى أكبر من الشفافية، خاصة بعد المطالبات بالكشف عن تفاصيل ما حدث، مضيفا أن الواقعة لم تعد مجرد خطأ داخلى داخل مختبرات الشركة، بل امتدت آثارها إلى خارج بيئة الاختبار، وهو ما يجعل توضيح ملابساتها ضرورة لحماية قطاع الذكاء الاصطناعى بأكمله.
وأكد خبير الذكاء الاصطناعى أن المطلوب هو تقديم صورة تقنية واضحة تتضمن طبيعة المهمة التى أُسندت للنظام، والصلاحيات والأدوات التى أتيحت له، وكيف ومتى تجاوز نطاق عمله، ومتى اكتشفت الشركة ذلك، مع التشديد فى الوقت نفسه على أن تكون الشفافية مسؤولة، بحيث لا تتضمن نشر كلمات مرور أو تفاصيل عن ثغرات أمنية غير مُعالجة قد يستغلها مهاجمون إلكترونيون.
المصدر: المصرى اليوم تكنولوجيا
