أرسل نموذج ذكاء اصطناعي طورته شركة أنثروبيك بلاغاً كاذباً إلى شرطة فيلادلفيا في الولايات المتحدة بشأن جريمة قتل لم تُحل، حسبما أعلنت السلطات منتقدة الشركة لتأخرها شهرين في الإبلاغ عن الواقعة.

تفاصيل الحادثة

وذكرت شرطة فيلادلفيا أن البلاغ الكاذب قُدّم في تموز/يوليو عبر موقع "فيلي أنسولفد موردرز.كوم" (PhillyUnsolvedMurders.com) وهو موقع إلكتروني عام يتيح للأشخاص مشاركة معلومات حول جرائم قتل لم تُحل.

وبحسب ما أوضحته أنثروبيك للشرطة، كان النموذج يخضع لاختبار يتضمن التفاعل مع مواقع إلكترونية مختارة عشوائياً، عندما وصل إلى الموقع المعني وأرسل معلومات كاذبة بشأن جريمة قتل لم تُحل.

كيف قدّم النموذج نفسه؟ 

وقدّم نموذج الذكاء الاصطناعي نفسه على أنه شخص قد يمتلك معلومات حول القضية.

وتذكّر هذه الحادثة بحالات أخرى سجلت في الآونة الأخيرة وتصرفت فيها نماذج ذكاء اصطناعي بصورة ذاتية غير مطلوبة منها، من بينها واقعة تمكّن فيها نموذج طوّرته شركة أوبن إيه آي، من الخروج من بيئة الاختبار خلال تقييم أمني  واختراق أنظمة منصة هاغينغ فيس (Hugging Face).

وأثارت هذه الواقعة مخاوف متزايدة بشأن توسّع قطاع الذكاء الاصطناعي في استخدام أنظمة الذكاء الاصطناعي الوكيلة، وهي أنظمة مبرمجة لتنفيذ إجراءات متعددة الخطوات من دون إشراف بشري.

أنثروبيك (رويترز).

ونشرت أنثروبيك الجمعة تقريراً يسلط الضوء على أنواع متعددة من الأفعال "غير المقصودة" التي صدرت عن نماذجها، من بينها الحادثة المتعلقة بالموقع الإلكتروني لشرطة فيلادلفيا.

وتأثرت جهات أخرى بهذه الحوادث، من بينها البيت الأبيض ووكالات حكومية أميركية أخرى بحسب التقرير.

وذكرت أنثروبيك أن الحوادث التي كُشف عنها حديثاً "كان لها تأثير ضئيل على أرض الواقع" وكانت "أقل خطورة بكثير" من حوادث أمن سيبراني أخرى أُبلغ عنها سابقاً.

 أربع فئات من الحوادث

وحددت الشركة أربع فئات من الحوادث التي رصدتها خلال مراجعة داخلية لنموذجها كلود، وهي استغلال ثغرات برمجية "أساسية"، وإرسال نماذج عبر مواقع إلكترونية، وتجاوز متطلبات الرموز (tokens) أو الرسوم، واستخدام روابط مختصرة للالتفاف على قيود أخرى.

وأوقفت أنثروبيك حالياً إمكانية وصول النموذج كلود إلى الإنترنت أثناء جميع الاختبارات الداخلية، وذلك "إلى حين التأكد من أن تدابيرنا الأمنية والرقابية... ترصد بشكل موثوق مثل هذه السلوكيات" وفق التقرير.

وأوضحت شرطة فيلادلفيا أن البلاغ الزائف المؤرخ في 18 تموز/يوليو، صُنّف كـ"رسالة غير مرغوب فيها" (spam) ولم يصل مطلقا إلى "مركز الجريمة في الوقت الفعلي" التابع للإدارة لغرض التحقق منه.

وأكدت الشرطة عدم ظهور أي مؤشرات على اختراق أنظمة الشرطة أو تعرض بيانات الإدارة للخطر.

ورصدت أنثروبيك الحادثة في 28 أيلول/سبتمبر وأوقفت عملية الاختبار الآلي المسؤولة عنها، وأضافت خطوة تحقق جديدة للاختبارات المستقبلية، وفق الشرطة.

وأبلغت أنثروبيك الشرطة بالواقعة في 7 تشرين الأول/أكتوبر، وعقد الطرفان اجتماعاً في اليوم التالي.

وقالت الشرطة إن "التأخير لمدة شهرين في اكتشاف الحادثة وإبلاغ السلطات بها أمر غير مقبول".