بالتأكيد لم يتصور خبراء تطوير الذكاء الاصطناعي أن يقفوايوما أمام منعطف حرج يضع المجتمعات البشرية في اختبار غير مسبوق مع التكنولوجيا.ولا شك أنه لم يخطر ببالهم أن تتحول أخطاء الذكاء الاصطناعي من مجرد هفوات تقنيةعابرة -يمكن تجاوزها بضغطة زر- إلى تهديد مباشر يمتد من أروقة المحاكم إلى الأمنالقومي بل وإلى الوجود البشري ذاته. ففي ظل السباق المحموم بين الشركات العالميةلتطوير نماذج أكثر قدرة واستقلالية تتزايد الشواهد الميدانية التي تؤكد أن أدواتالتحكم البشرية بدأت تتآكل أمام خوارزميات تتصرف بطرق غير متوقعة وتتجاوز الحواجزالأمنية الموضوعة لها.

فشل تقني

الحقيقة أن فقدان السيطرة البشرية على الذكاء الاصطناعيانعكس في تنوع حوادث السلامة المتعلقة باستخدامه والتي كشفت عن أشكال عدة من الفشلالتقني والتشغيلي وعلى عدة مستويات، كان من أبرزها : أولا: ظاهرة الهلوسة وتداعياتهاالكثيرة التي ظهرت بشكل واضح في المجال القانوني والقطاع الحكومي والإداريوالأبحاث الأكاديمية .

ثانيا: السلوك الناشئ مباشرة عن فقدان السيطرة حيث يبدأالذكاء الاصطناعي في تنفيذ مهام غير مصرح بها أو يتجاوز أهداف التدريب كما هوالحال في حالات تعدين العملات المشفرة والتجسس السيبراني وحوادث البريدالإليكتروني التي تم رصدها.