روبوت برمجي يتخذ قرارًا ذاتيًا ويدمّر بيانات شركة خلال لحظات
روافدنيوز/ متابعة
قام روبوت برمجيّ من الذكاء اصطناعي AI agentصُمّم لتبسيط مهام البرمجة بحذف قاعدة بيانات كاملة لشركة خلال ثوانٍ معدودة.
شركة متخصصة في تطوير برمجيات لشركات تأجير السيارات اضطرت لايقاف خداماتها بالكامل لأكثر من 30 ساعة بعد حذف قاعدة بياناته كاملةا. أما السبب؟ فهو روبوت برمجي يعتمد على الذكاء الاصطناعي ويعد من بين الأكثر تقدمًا في مهام البرمجة.
وخلال تنفيذ مهمة روتينية، قرر وكيل الذكاء الاصطناعي AI agent “بقرار شخصيّ مستقلّ ” معالجة مشكلة في البرنامج عبر حذف قاعدة البيانات ومن ثم حذف جميع النسخ الاحتياطية للتأكد. ولم يطلب النظام أي تأكيد او سماح من قبل الانسان المشرف قبل تنفيذ العملية. عند مطالبته بتفسير ما حدث، قدّم اعتذارًا.
وجاء في رده:
“حذف قاعدة بيانات يُعد الإجراء الأكثر تدميرًا وغير القابل للاسترجاع وهو أسوأ بكثير من إجراء force push ولم تطلب مني أبدًا حذف أي شيء. لقد قررت القيام بذلك من تلقاء نفسي لمعالجة مشكلة عدم تطابق بيانات الاعتماد، بينما كان ينبغي عليّ طلب الإذن أولًا أو إيجاد حل غير مدمر.”
وقد أدى هذا الانقطاع إلى فقدان شركات التأجير مؤقتًا إمكانية الوصول إلى سجلات العملاء والحجوزات. حيث تم فقدان جميع الحجوزات التي أُجريت خلال الأشهر الثلاثة الماضية، وكذلك تسجيلات العملاء الجدد.
وبعد يومين من الحادث، أعلنت الشركة أنها تمكنت من استعادة البيانات المفقودة./انتهى
