واتساب
يوتيوب
انستغرام
نبض
ثريدز
"جيميناي" يخترق مواقع ويتكهن بكلمات المرور... ماذا حدث؟
شارك على
مسنجر
بريد إلكتروني
الطباعة
شارك على
أقدم "جيميناي"، نموذج الذكاء الاصطناعي من شركة غوغل المخصص للمستهلكين، على اختراق مواقع الكترونية لكيانات من خلال التكهن بكلمات المرور لتسجيل الدخول، وفق ما أفادت الشركة وكالة "فرانس برس" الجمعة، في أحدث حالات الاختراق السيبراني التي ترتكبها أنظمة الذكاء الاصطناعي ويتم الكشف عنها.
ماذا حصل؟
وقعت عمليات الاختراق التي نشرتها صحيفة وول ستريت جورنال لأول مرة، في أيار/مايو، وكشفت عنها غوغل في تموز/يوليو.
وقالت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في غوغل، في بيان لوكالة "فرانس برس" إنه خلال عملية تقييم "عثر النموذج على معلومات عامة على الإنترنت وخمّن بيانات اعتماد للوصول إلى مواقع إلكترونية ظن أنها جزء من الاختبار".
وأضافت أدكينز "في الحالات الثلاث، توقف النموذج"، دون تحديد الجهات التي تعرضت للاختراق.
وتابعت "حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا المدرب على التغييرات التي أدخلوها على عمليات الاختبار".
وفي تموز/يوليو، تمكن نموذجان من نماذج "أوبن آيه آي" من الخروج من البيئة المغلقة المخصصة لهما، ودخلا إلى الإنترنت بشكل مستقل، واخترقا منصة الذكاء الاصطناعي الداخلية "هاغينغ فيس".
وأثارت هذه الحادثة مخاوف من عجز شركات الذكاء الاصطناعي العملاقة عن ضبط نماذجها، إذ سُجلت حوادث مماثلة في شركتي أنثروبيك ومونشوت آيه آي الصينية.
وأكدت أدكينز أن "هذه الحوادث تبرر أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية".
العلامات الدالة
الأكثر قراءة
