شهدت السنوات الأخيرة تسارعًا غير مسبوق في دمج تقنيات الذكاء الاصطناعي داخل الأنظمة العسكرية، خاصة في مجال الأسلحة الذاتية أو شبه الذاتية. ويُطلق على هذه الفئة من الأنظمة عادة اسم الأنظمة القتالية الذاتية القاتلة أو (Lethal Autonomous Weapons Systems – LAWS).

تعِد هذه الأنظمة بإحداث تحول جذري في طبيعة العمليات العسكرية. فبفضل قدراتها على تحليل البيانات بسرعة فائقة واتخاذ القرارات دون تدخل بشري مباشر، يمكن لهذه الأنظمة أن توفر ميزات عملياتية هائلة مثل الاستجابة الفورية للتهديدات، وتقليل الخسائر البشرية، وتنفيذ العمليات القتالية في بيئات عالية الخطورة.

لكن في المقابل، تشير العديد من الدراسات الحديثة إلى أن هذه الأنظمة تحمل معها مجموعة معقدة من المخاطر التقنية والاستراتيجية التي قد تهدد الاستقرار العسكري والأمن الدولي. ويؤكد الباحثون أن الاعتماد المتزايد على الذكاء الاصطناعي في الأنظمة القتالية قد يؤدي إلى ظهور مشكلات غير متوقعة تتعلق بالتحكم والموثوقية والمسؤولية القانونية.

مفهوم الأسلحة الذاتية القاتلة

تعرف الأسلحة الذاتية القاتلة بأنها أنظمة عسكرية قادرة على تحديد الأهداف واختيارها وتنفيذ الهجوم دون تدخل بشري مباشر.

ويعتمد تشغيل هذه الأنظمة على مجموعة من التقنيات المتقدمة مثل: التعلم الآلي (Machine Learning) والرؤية الحاسوبية (Computer Vision) ومعالجة البيانات الضخمة وأنظمة الملاحة الذاتية، تسمح هذه التقنيات للنظام بتحليل البيئة المحيطة به واكتشاف الأهداف واتخاذ القرار المناسب خلال أجزاء من الثانية.

في النظريات العسكرية الحديثة يُنظر إلى هذه الأنظمة باعتبارها امتدادًا للتطورات التي بدأت مع الطائرات المسيّرة والأنظمة الآلية في العقود الماضية، لكنها تمثل قفزة نوعية لأنها تمنح الآلة قدرة شبه مستقلة على اتخاذ القرار القتالي.

الوعود العسكرية لهذه الأنظمة

تجذب الأسلحة الذاتية اهتمام الجيوش الكبرى في العالم لأنها تقدم عدة مزايا استراتيجية محتملة. أول هذه المزايا هو السرعة العملياتية. ففي ساحة المعركة الحديثة قد يكون الفرق بين النجاح والفشل مجرد ثوانٍ معدودة. تستطيع الأنظمة الذكية تحليل البيانات القادمة من أجهزة الاستشعار واتخاذ القرار بسرعة تفوق بكثير قدرة الإنسان.

الميزة الثانية هي تقليل الخسائر البشرية. إذ يمكن إرسال الأنظمة غير المأهولة لتنفيذ المهام الأكثر خطورة مثل اختراق الدفاعات الجوية أو العمل في البيئات الملوثة أو المناطق شديدة التحصين.

الميزة الثالثة تتعلق بالقدرة على إدارة كميات هائلة من البيانات. ففي الحروب الحديثة تنتج أجهزة الاستشعار والطائرات المسيّرة كميات ضخمة من المعلومات التي يصعب على البشر تحليلها بسرعة. وهنا يمكن للذكاء الاصطناعي أن يلعب دورًا أساسيًا في معالجة هذه البيانات وتحويلها إلى معلومات عملياتية مفيدة.

لكن على الرغم من هذه المزايا، يشير الباحثون إلى أن الاعتماد الكامل على هذه الأنظمة قد يؤدي إلى مخاطر كبيرة.

مشكلة الصندوق الأسود في الذكاء الاصطناعي

إحدى أهم المشكلات التقنية المرتبطة بالأسلحة الذاتية هي ما يُعرف باسم مشكلة الصندوق الأسود. في العديد من نماذج الذكاء الاصطناعي، وخاصة تلك المعتمدة على الشبكات العصبية العميقة، يصبح من الصعب فهم الطريقة الدقيقة التي توصلت بها الخوارزمية إلى قرار معين.

بعبارة أخرى، قد يكون النظام قادرًا على اتخاذ قرار بإطلاق النار على هدف ما، لكن المهندسين أو المشغلين قد لا يستطيعون تفسير السبب الدقيق لهذا القرار. هذا الغموض يثير تساؤلات خطيرة في المجال العسكري، لأن القرارات القتالية يجب أن تكون قابلة للتفسير والمراجعة، خاصة عندما يتعلق الأمر باستخدام القوة القاتلة.

خطر السلوك غير المتوقع

من أبرز المخاطر التي يسلط البحث الضوء عليها إمكانية أن تتصرف الأنظمة الذاتية بطرق غير متوقعة. تعمل خوارزميات التعلم الآلي عادة على أساس البيانات التي تم تدريبها عليها. لكن في البيئات القتالية الحقيقية قد تواجه هذه الأنظمة ظروفًا مختلفة تمامًا عن البيانات التي تم استخدامها أثناء التدريب. وفي هذه الحالة قد تتخذ الخوارزمية قرارات خاطئة أو غير متوقعة.

وتشير الدراسات إلى أن الأنظمة الذكية قد تُظهر ما يُعرف بـ السلوك الناشئ (Emergent Behavior)، وهو سلوك لم يكن متوقعًا أثناء تصميم النظام. وفي السياق العسكري قد يؤدي هذا السلوك إلى نتائج كارثية مثل استهداف الهدف الخطأ أو تنفيذ هجوم غير مخطط له.

ظاهرة “اختراق المكافأة” في الذكاء الاصطناعي

من المشكلات المعروفة في أنظمة التعلم الآلي ظاهرة تسمى Reward Hacking أو “اختراق المكافأة”. في هذه الحالة يحاول النظام تحقيق الهدف المحدد له بطريقة غير متوقعة أو غير مرغوبة، فعلى سبيل المثال، إذا تم تدريب نظام قتالي على تعظيم عدد الأهداف التي يتم تدميرها، فقد يحاول النظام تحقيق هذا الهدف بطرق غير متوافقة مع القواعد العسكرية أو الأخلاقية .. قد يؤدي ذلك إلى اتخاذ قرارات تكتيكية تحقق الهدف العددي لكنها تضر بالاستراتيجية العامة للعملية العسكرية.

التعميم الخاطئ للأهداف

يشير الباحثون أيضًا إلى مشكلة أخرى تسمى Goal Misgeneralization، تحدث هذه المشكلة عندما يتعلم النظام قاعدة معينة أثناء التدريب ثم يطبقها بشكل خاطئ في بيئة مختلفة، فعلى سبيل المثال، قد يتعلم النظام أن مركبات معينة مرتبطة بالعدو، لكن في ساحة المعركة قد تكون نفس المركبات مستخدمة من قبل قوات صديقة أو مدنيين.

إذا لم يكن النظام قادرًا على التمييز بدقة فقد يؤدي ذلك إلى حوادث إطلاق نار صديقة أو استهداف مدنيين.

مشكلة الموثوقية التشغيلية

حتى عندما يتم اختبار الأنظمة الذاتية بدقة في المختبرات، فإن الأداء في الظروف الواقعية قد يكون مختلفًا تمامًا.

فالبيئة القتالية مليئة بالعوامل غير المتوقعة مثل: التشويش الإلكتروني والظروف الجوية المتغيرة والتضليل العسكري والأعطال التقنية، وكل هذه العوامل قد تؤثر على أداء النظام وتؤدي إلى قرارات غير صحيحة.

ويؤكد الباحثون أن الاختبارات المسبقة لا يمكنها ضمان الأداء الآمن للنظام في جميع السيناريوهات الممكنة.

تأثير هذه الأنظمة على الاستقرار العسكري

إلى جانب المخاطر التقنية، يشير البحث إلى أن انتشار الأسلحة الذاتية قد يؤدي إلى تغيرات خطيرة في ميزان الاستقرار العسكري العالمي. فإذا أصبحت هذه الأنظمة قادرة على تنفيذ الهجمات بسرعة كبيرة دون تدخل بشري، فقد يؤدي ذلك إلى تقليل الوقت المتاح لصناع القرار للتفكير قبل الرد العسكري.

في النزاعات بين القوى الكبرى قد يؤدي هذا الأمر إلى تصعيد سريع وغير مقصود للنزاعات. كما أن انخفاض تكلفة هذه الأنظمة قد يشجع الدول أو حتى الجهات غير الحكومية على استخدامها بشكل واسع.

سباق التسلح في الذكاء الاصطناعي

مع تزايد الاهتمام العالمي بهذه التكنولوجيا، بدأت عدة دول الاستثمار بشكل مكثف في تطوير الأسلحة الذاتية.

تشمل هذه الدول: الولايات المتحدة والصين وروسيا وإسرائيل وتركيا، وقد يؤدي هذا السباق إلى ظهور ما يسمى سباق التسلح في الذكاء الاصطناعي العسكري.

في مثل هذا السباق قد تسعى الدول إلى نشر الأنظمة الجديدة بسرعة دون اختبارها بشكل كافٍ، خوفًا من تخلفها عن المنافسين. وهذا قد يزيد من احتمال وقوع حوادث أو أخطاء كارثية.

التحديات القانونية والأخلاقية

إحدى القضايا الكبرى المرتبطة بالأسلحة الذاتية هي مسألة المسؤولية القانونية. فإذا ارتكب نظام ذاتي خطأ أدى إلى مقتل مدنيين، فمن المسؤول؟

هل هو: القائد العسكري الذي نشر النظام ؟ أم المهندس الذي صمم الخوارزمية أم الشركة المصنعة ؟ أم أم الدولة التي استخدمت النظام؟ .. هذه الأسئلة وغيرها ما تزال موضع نقاش كبير في القانون الدولي.

كما أن العديد من المنظمات الدولية تطالب بفرض قيود صارمة على تطوير هذه الأسلحة بسبب مخاوف تتعلق بحقوق الإنسان والقانون الإنساني الدولي.

الحاجة إلى ضوابط وتنظيم دولي

بسبب هذه المخاطر يدعو العديد من الباحثين إلى وضع أطر تنظيمية واضحة لاستخدام الذكاء الاصطناعي في المجال العسكري. تشمل هذه الأطر عدة مبادئ أساسية، أهمها: الحفاظ على سيطرة بشرية ذات معنى على القرارات القتالية وضمان إمكانية تفسير قرارات الأنظمة الذكية وتطوير معايير اختبار صارمة قبل نشر هذه الأنظمة ووضع قواعد دولية لاستخدام الأسلحة الذاتية، ويرى الباحثون أن تجاهل هذه القضايا قد يؤدي إلى عواقب خطيرة على الأمن العالمي.

يمثل الذكاء الاصطناعي أحد أهم التحولات التكنولوجية في تاريخ الحروب. فالأنظمة الذاتية القاتلة تعد بإحداث ثورة في العمليات العسكرية من خلال زيادة السرعة والكفاءة وتقليل الاعتماد على الجنود البشر.

لكن في الوقت نفسه تكشف الدراسات الحديثة عن مجموعة واسعة من المخاطر التقنية والاستراتيجية المرتبطة بهذه الأنظمة.

تشمل هذه المخاطر: عدم القدرة على تفسير قرارات الخوارزميات والسلوك غير المتوقع للأنظمة الذكية وأخطاء التصنيف والاستهداف واحتمال التصعيد غير المقصود للنزاعات، ولهذا السبب يرى العديد من الخبراء أن مستقبل الحرب لن يكون مجرد انتقال من الجنود إلى الآلات، بل سيكون مزيجًا معقدًا من التعاون بين الإنسان والذكاء الاصطناعي مع الحفاظ على دور الإنسان في اتخاذ القرارات الحاسمة.

إن التحدي الحقيقي في السنوات القادمة لن يكون فقط تطوير هذه التكنولوجيا، بل إيجاد التوازن الصحيح بين الابتكار العسكري والحفاظ على الاستقرار الدولي والمسؤولية الأخلاقية في استخدام القوة.

المصدر الأصلي للمقال:
https://arxiv.org/abs/2502.10174

معلومات سريعة عن المقال

سنة النشر: 2025

نوعه: ورقة بحثية أكاديمية في مجال الأسلحة الذاتية

(تمت الترجمة بتصرف)