لقد تصادمت الوعد بأن الحرب بالذكاء الاصطناعي ستقلل من الضحايا المدنيين مع الأدلة من إيران وغزة وأوكرانيا واليمن، حيث تؤدي الكميات العالية من الأهداف وقواعد الاشتباك المتساهلة إلى المزيد من الأذى، وليس أقل. يجادل المؤيدون بأن الذكاء الاصطناعي يحسن دقة الاستهداف، ومع ذلك، وضع الخبراء في جلسة استماع في الكونغرس الدقة الحقيقية بالقرب من 50 في المئة، وهو ما يقل بكثير عن 90 في المئة التي يدعيها المطورون.
نفذ البنتاغون 13,000 هدف في 38 يومًا باستخدام نظام بالانتير الذكي مافن، وحددت إسرائيل 37,000 فلسطينيين كأهداف، وغالبًا ما تمت الموافقة على الضربات التي قتلت 15 إلى 20 مدنيًا في كل مرة. تعمل الحرب بالذكاء الاصطناعي على عتبات محددة من قبل البشر: إذا قبل القادة خمس وفيات مدنية لكل مشتبه به، فإن الآلة تنفذ تلك الحسابات دون تردد. في الوقت نفسه، يتقلص مركز التميز لحماية المدنيين في البنتاغون من 40 موظفًا إلى تسعة، مما يفرغ التدريب الذي يهدف إلى تقليل الأذى. أشار الشهود إلى أنه لم يتم مشاركة أي دليل يثبت أن الذكاء الاصطناعي يقلل من الضحايا المدنيين، وتنهار النسبية عندما تضرب القنابل التي تزن 2000 رطل المباني السكنية. لا يزال الادعاء بأن التكنولوجيا تنقذ الأرواح غير مثبت، بينما العواقب الناتجة عن الحرب بالذكاء الاصطناعي مرئية بالفعل في أعداد القتلى.
انهار ادعاءات دقة الحرب بالذكاء الاصطناعي
أعلن الرئيس التنفيذي لشركة بالانتير أليكس كارب في ندوة في عام 2024 أن “التكنولوجيا يجب أن تكون قادرة على تقليل الأضرار الجانبية، وفيات المدنيين بشكل كبير.” وقد اتفق الرئيس التنفيذي السابق لشركة جوجل إريك شميدت ونائب مدير وكالة الاستخبارات المركزية السابق ديفيد كوهين.
لقد قدم مؤيدو استخدام الذكاء الاصطناعي في الجيش منذ فترة طويلة بعض النسخ من هذا الحجة – أن اعتماد الجيش للذكاء الاصطناعي سيؤدي إلى تقليل الأذى المدني.
خلاصة النائب جيم مكغفرن (ديمقراطي من ماساتشوستس) العرض خلال جلسة استماع في الكونغرس حول استخدام الذكاء الاصطناعي في الجيش يوم الأربعاء. قال مكغفرن: “لقد جادلت حكومتنا بأن الذكاء الاصطناعي يمكن أن يحسن التقييمات حول الآثار المحتملة للعمليات العسكرية ويقلل من خطر الضحايا المدنيين.” وأضاف: “هذا هو العرض الذي نحصل عليه. أعني، هل يتفق الجميع على ذلك؟”
البنتاغون ينشر مافن في القتال
لم يعد السؤال نظريًا، حيث إن الجيش الأمريكي يقوم بالفعل بنشر الذكاء الاصطناعي. وقد ضرب البنتاغون 13,000 هدف في أول 38 يومًا من الحرب، بمساعدة نظام بالانتير مايفن الذكي لتحديد الأهداف واختيار الأسلحة المستخدمة في الهجمات.
لكن الخبراء في الجلسة التي استضافتها لجنة توم لانتوس لحقوق الإنسان، قالوا إن الحجة القائلة بأن الذكاء الاصطناعي يقلل من الأذى المدني ليست مدعومة بالحقائق على الأرض، مشيرين إلى إيران وأوكرانيا واليمن وغزة كأدلة.
الخبراء يتحدون ادعاءات الدقة
“أنا أختلف مع ذلك”، قال ستيفن فيلدشتاين، زميل أول في برنامج الديمقراطية والصراع والحكم في مؤسسة كارنيغي للسلام الدولي. بينما يروج البعض لدقة الاستهداف ضمن أنظمة الذكاء الاصطناعي التي تصل إلى 90%، يقول فيلدشتاين إن الرقم الحقيقي قد يكون أقرب إلى 50%.
ديبورا براون، نائبة مدير التكنولوجيا والحقوق والتحقيقات في هيومن رايتس ووتش، لم تكن مقتنعة بالحجة أيضًا. “سواء كان الأمر يتعلق بإسرائيل في غزة، أو إيران، فإن الأدلة لا تشير إلى أن هذا يحد من الأذى بسبب المستوى العالي من القتلى المدنيين.”
أثار المشرعون تساؤلات حول ما إذا كان للذكاء الاصطناعي دور في الهجوم الذي وقع في 28 فبراير على مدرسة ابتدائية للبنات في ميناب، إيران، والذي أسفر عن مقتل أكثر من 170 شخصًا. قدم شايام سانكار من بالانتير الحالة الإنسانية لاستخدام الجيش لنظام مايفن عندما سُئل عن الدور المزعوم لشركته في الهجوم. “إنها مأساة لهؤلاء الفتيات بالتأكيد”، قال سانكار. “الشيء الذي أود قوله هو أنه في تاريخ الحروب، كانت التكنولوجيا دائمًا تقلل من الأضرار الجانبية.”
لماذا تزيد الحروب بالذكاء الاصطناعي من الخسائر المدنية
لكن فيلدشتاين أوضح أن “حتى لو كانت هناك دقة أكبر، نظرًا لأن عدد الأهداف أكبر بكثير، فإن العدد النهائي من المدنيين المتضررين من المحتمل أن يكون أعلى بكثير أيضًا.”
<p
على سبيل المثال، تدعي قوات الدفاع الإسرائيلية أن لديها معدل دقة يبلغ 90% مع نظام “لافندر”، وهو نظام استهداف يعتمد على الذكاء الاصطناعي يستخدم في غزة. لكن أماندا كلاسين، المديرة الوطنية للعلاقات الحكومية والدعوة في منظمة العفو الدولية في الولايات المتحدة، أشارت إلى أن الدقة لا تهم عندما يتم “تجاوز” النسبة المئوية، مثلما يحدث عند إسقاط قنبلة تزن 2000 رطل على مبنى سكني.
تقوم أنظمة الذكاء الاصطناعي أيضًا بتنفيذ التعليمات بناءً على قواعد الاشتباك التي يحددها البشر، والتي قد تستند إلى تعليمات لا تعطي الأولوية لتقليل الأذى المدني. إذا قررت القوات العسكرية “أنه من المقبول أن يموت خمسة مدنيين مقابل كل مشتبه به يتم استهدافه… فأنت تخبر الآلة بما هو مقبول”، كما قال فيلدشتاين.
تم استخدام “لافندر” لتحديد 37000 رجل فلسطيني كأهداف. لكن مصدر استخباراتي أخبر صحيفة الغارديان أنهم كانوا يتعرضون لضغوط مستمرة لجلب المزيد من الأهداف. “الأرقام كانت تتغير طوال الوقت، لأنها تعتمد على المكان الذي تحدد فيه معيار ما هو عنصر من حماس”، كما قالوا. كما وافقت قوات الدفاع الإسرائيلية على هذه الهجمات على الأهداف ذات المستوى المنخفض، حتى لو كان ذلك يعني قتل 15 إلى 20 مدنيًا كأضرار جانبية.
حتى مع وعد المؤيدين بأن الذكاء الاصطناعي سيخلق نهجًا أكثر إنسانية في الحرب، تم إفراغ التدريب على تقليل الأذى المدني. مركز التميز لحماية المدنيين في البنتاغون، الذي تم تأسيسه في عام 2023 لتدريب قيادات القتال على طرق تقليل الأذى المدني، يقوم بتقليص عدد موظفيه من 40 في يناير 2025 إلى تسعة فقط بنهاية هذا العام.
لا تزال الأدلة على الحرب بالذكاء الاصطناعي مفقودة
أشار الشهود إلى أن جزءًا من المشكلة هو أن البنتاغون لم يشارك الأدلة التي تثبت أن أنظمة الذكاء الاصطناعي تقلل من الأذى المدني. “إذا كان الأمر كذلك، وأنها تحد فعليًا من الأذى المدني وتكون أكثر دقة وفعالية، فلنرَ الأدلة”، كما قال براون.