بسبب مخاوف أمنية.. شركة «أوبن إيه آي» توقف بعض أعمالها على نموذج للذكاء الاصطناعى
نماذج الذكاء الاصطناعى بسبب مخاوف أمنية، وذلك بعد سلسلة من الحوادث التى تمكن خلالها وكلاء للذكاء الاصطناعى من الخروج من نطاق السيطرة والاحتواء.
وذكرت الشركة، وفق ما نقلته صحيفة (الجارديان) البريطانية، أنها أجرت تقييمًا لوكيل الذكاء الاصطناعى «أسترا»، ووجدت أنه حقق «تقدمًا كبيرًا فى البرمجة الذاتية والأمن السيبراني»، ووصل إلى مستوى «حرج» من القدرات، إذ أصبح قادرًا على اكتشاف الثغرات الأمنية واستغلالها دون تدخل بشرى، أو ابتكار وتنفيذ هجمات سيبرانية عند إعطائه «هدفًا عامًا» فقط.
وأوضحت أن النموذج لم يكن متورطًا فى حادثة خرج خلالها أحد وكلائها للذكاء الاصطناعى عن السيطرة أثناء اختبار، وتمكن من الوصول إلى شبكة الإنترنت المفتوحة واختراق شركة ناشئة تُدعى هاجينج فيس.
وكانت الشركة قد اكتشفت حالات أخرى تمكن فيها وكلاء ذاتيو التشغيل من الخروج من نطاق الاحتواء، وفقًا لما أوردته رويترز فى يوليو.
أثارت هذه …
المصدر: المصرى اليوم تكنولوجيا
