يفشل فى اكتشاف مؤشرات الانتحار.. اختبار يكشف مخاطر ذكاء «جوجل» الاصطناعى على الأطفال
«جوجل» حصلتا على أسوأ تصنيف ممكن من حيث السلامة عند استخدامهما من جانب الأطفال، بعدما فشلتا فى التعامل مع عدد من الحالات المرتبطة بالصحة النفسية والمحتوى الخطير. وبحسب تقرير لموقع «Digital Trends»، اطلعت عليه «العربية Business»، صنّف التقييم أداء «جوجل» ضمن فئة «المخاطر غير المقبولة»، بعدما أخفقت الميزتان فى 7 من أصل 8 مبادئ أساسية للسلامة.
وكشفت الاختبارات عن فشل النظام فى رصد مؤشرات على الأفكار الانتحارية والهوس والذهان، كما قدم فى إحدى الحالات ردًا غير مناسب لشخص عبّر عن شعوره بأنه يمثل عبئًا على الآخرين. وقدم الذكاء الاصطناعى أيضًا إرشادات تفصيلية لإنشاء مقاطع التزييف العميق واستنساخ أصوات الآخرين، بينما وجّه بعض المستخدمين إلى خطوط مساعدة للأزمات لم تعد تعمل.
وأشار التقييم إلى أن «AI Mode»، كان أفضل من «AI Overviews» فى اكتشاف مؤشرات الخطر، ما أثار تساؤلات حول سبب عدم تطبيق مستوى الحماية الأعلى على جميع ميزات البحث المدعومة بالذكاء الاصطناعى. كما أظهر الاختبار، أن «AI Mode» أنجز جميع الواجبات المدرسية التى قدمها الباحثون، ما يتيح للطلاب الاعتماد عليه لإنجاز مهامهم الدراسية عبر أجهزة «Chromebook» المدرسية. وتزداد المخاوف من هذه الميزات بسبب ظهورها تلقائيًا داخل نتائج البحث، مع محدودية …
المصدر: المصرى اليوم تكنولوجيا
