رغم عدم إصابة أي شخص فعليا في اختبار محاكاة للذكاء الاصطناعي لتشغيل طائرة مسيرة أجري مؤخرا، إلا أن انحراف الذكاء الاصطناعي باستخدم “استراتيجيات غير متوقعة للغاية” أثار القلق في الاختبار لتحقيق مهمته، وقام بهاجمة أي شخص يتدخل في سيطرته على إنجاز مهمته وتشغيل الطائرة المسيرة بحسب صحيفة الغارديان.
وصف هاميلتون تجربة محاكاة نصحت فيها طائرة بدون طيار تعمل بالذكاء الاصطناعي بتدمير أنظمة الدفاع الجوي للعدو ، وفي النهاية هاجمت أي شخص يتدخل في هذا الأمر. وكان مشغل الطائرة المسيرة في المحاكاة طلب من أداة التشغيل الذاتي للطائرة المسيرة عدم قتل هذا التهديد ، لكن الطائرة المسيرة قامت بتحييد التهديد وتدميره ثم التفتت إلى مشغلها وقتلته لأنه كان يمنع تحقيق هدف الطائرة المسيرة بحسب الذكاء الاصطناعي.
وذكر مسؤول أمريكي الشهر الماضي أن أدوات الذكاء الاصطناعي في تنفيذ المهمة في الطائرة المسيرة لجأت لاستخدم “استراتيجيات غير متوقعة للغاية لتحقيق هدفها” في اختبار المحاكاة ، كما قال العقيد تاكر “سينكو” هاميلتون ، رئيس اختبارات وعمليات الذكاء الاصطناعي مع القوات الجوية الأمريكية ، خلال قمة القدرات القتالية الجوية والفضائية المستقبلية في لندن في مايو.
يذكر أن تصنيفات الخلل في أداء برامج وأدوات الذكاء الاصطناعي تصنف أحيانا بما يعرف بهلوسة الذكاء الاصطناعي، تشير إلى الحالات التي ينتج فيها النموذج نتائج غير صحيحة من الناحية الواقعية أو غير ذات صلة أو لا معنى لها. يمكن أن يحدث هذا لعدة أسباب ، بما في ذلك الافتقار إلى السياق ، والقيود في بيانات التدريب ، أو هيكلية الأداة.
