جنگ‌های هوش مصنوعی: دقت بهتر، تلفات بیشتر غیرنظامیان

وعده‌ای که جنگ‌های هوش مصنوعی به کاهش تلفات غیرنظامیان داده بود، با شواهدی از ایران، غزه، اوکراین و یمن برخورد کرده است، جایی که حجم بالای اهداف و قوانین تساهل در درگیری‌ها آسیب بیشتری تولید می‌کند، نه کمتر. حامیان استدلال می‌کنند که هوش مصنوعی دقت هدف‌گیری را بهبود می‌بخشد، اما کارشناسان در یک جلسه استماع کنگره دقت واقعی را نزدیک به ۵۰ درصد ارزیابی کردند که بسیار پایین‌تر از ۹۰ درصد ادعایی توسعه‌دهندگان است.

پنتاگون در ۳۸ روز ۱۳,۰۰۰ هدف را با استفاده از سیستم هوشمند مِیون پالانتیر هدف قرار داد و اسرائیل ۳۷,۰۰۰ فلسطینی را به عنوان اهداف شناسایی کرد، که اغلب حملاتی را تأیید می‌کرد که ۱۵ تا ۲۰ غیرنظامی را به قتل می‌رساند. جنگ‌های هوش مصنوعی بر اساس آستانه‌های تعریف‌شده انسانی عمل می‌کنند: اگر فرماندهان پنج مرگ غیرنظامی را برای هر مظنون بپذیرند، ماشین آن محاسبه را بدون تردید انجام می‌دهد. در همین حال، مرکز برتری حفاظت از غیرنظامیان پنتاگون از ۴۰ کارمند به ۹ نفر کاهش یافته و در واقع آموزش‌هایی که قرار بود آسیب را کاهش دهد، تضعیف شده است. شاهدان اشاره کردند که هیچ مدرکی ارائه نشده که نشان دهد هوش مصنوعی تلفات غیرنظامی را کاهش می‌دهد و تناسب زمانی که بمب‌های ۲,۰۰۰ پوندی به ساختمان‌های مسکونی اصابت می‌کند، از بین می‌رود. ادعای اینکه فناوری جان‌ها را نجات می‌دهد هنوز اثبات نشده است، در حالی که پیامدهای جنگ‌های هوش مصنوعی در تلفات انسانی هم‌اکنون قابل مشاهده است.

ادعاهای دقت جنگ‌های هوش مصنوعی فرو می‌ریزد

الکس کارپ، مدیرعامل پالانتیر، در یک پنل در سال ۲۰۲۴ اعلام کرد که “فناوری باید بتواند به‌طور چشمگیری میزان آسیب‌های جانبی و مرگ‌های غیرنظامی را کاهش دهد.” اریک اشمیت، مدیرعامل سابق گوگل و دیوید کوهن، معاون سابق سیا نیز با این نظر موافقت کردند.

حامیان استفاده از هوش مصنوعی در نظامی‌گری مدت‌هاست که نسخه‌ای از این استدلال را مطرح کرده‌اند — اینکه پذیرش هوش مصنوعی توسط نظامی‌گری به کاهش آسیب‌های غیرنظامی منجر خواهد شد.

نماینده جیم مک‌گوورن (D-Mass.) در یک جلسه استماع کنگره درباره استفاده از هوش مصنوعی در نظامی‌گری در روز چهارشنبه این استدلال را خلاصه کرد. مک‌گوورن گفت: “دولت ما استدلال کرده که هوش مصنوعی می‌تواند ارزیابی‌های بهتری از اثرات احتمالی عملیات نظامی ارائه دهد و خطر تلفات غیرنظامی را کاهش دهد.” او افزود: “این استدلالی است که ما دریافت می‌کنیم. منظورم این است که آیا همه با این نظر موافقند؟”

پنتاگون مِیون را در نبرد به کار می‌گیرد

سوال دیگر نظری نیست، زیرا ارتش ایالات متحده در حال حاضر در حال استقرار هوش مصنوعی است. پنتاگون در تنها ۳۸ روز اول جنگ، ۱۳,۰۰۰ هدف را مورد حمله قرار داد که با کمک سیستم هوشمند مِیون پالانتیر برای شناسایی اهداف و انتخاب سلاح‌های مورد استفاده در حملات انجام شد.

اما کارشناسان در جلسه‌ای که توسط کمیسیون حقوق بشر تام لانتوس برگزار شد، گفتند که استدلال مبنی بر اینکه هوش مصنوعی آسیب به غیرنظامیان را کاهش می‌دهد، به سادگی با واقعیت‌های موجود در میدان پشتیبانی نمی‌شود و به ایران، اوکراین، یمن و غزه به عنوان شواهد اشاره کردند.

کارشناسان ادعاهای دقت را به چالش می‌کشند

“من با این نظر مخالفم”، گفت استیون فلدستین، پژوهشگر ارشد در برنامه دموکراسی، درگیری و حکمرانی در بنیاد کارنگی برای صلح بین‌المللی. در حالی که برخی دقت هدف‌گیری در سیستم‌های هوش مصنوعی را تا ۹۰٪ می‌دانند، فلدستین می‌گوید که عدد واقعی ممکن است به ۵۰٪ نزدیک‌تر باشد.

دبورا براون، معاون مدیر فناوری، حقوق و تحقیقات در سازمان دیده‌بان حقوق بشر نیز از این استدلال قانع نشد. “چه اسرائیل در غزه باشد، چه ایران، شواهد نشان نمی‌دهد که این موضوع آسیب را به دلیل سطح بالای تلفات غیرنظامی محدود می‌کند.”

قانونگذاران سوالاتی را مطرح کرده‌اند که آیا هوش مصنوعی در حمله ۲۸ فوریه به یک مدرسه ابتدایی دخترانه در میناب، ایران، که بیش از ۱۷۰ نفر را کشت، نقشی داشته است. شایام سانکار از پالانتیر در پاسخ به سوال درباره نقش ادعایی شرکتش در این حمله، به نفع استفاده ارتش از مِیون استدلال کرد. “این قطعاً یک فاجعه برای آن دختران است”، سانکار گفت. “چیزی که می‌خواهم بگویم این است که در تاریخ جنگ، فناوری همیشه آسیب جانبی را کاهش داده است.”

چرا جنگ با هوش مصنوعی تلفات غیرنظامی را افزایش می‌دهد

اما فلدستین توضیح داد که “حتی اگر دقت بیشتری وجود داشته باشد، به دلیل اینکه تعداد اهداف بسیار بیشتر است، تعداد نهایی غیرنظامیانی که آسیب می‌بینند احتمالاً بسیار بالاتر خواهد بود.”

<p

به عنوان مثال، نیروهای دفاعی اسرائیل ادعا می‌کنند که سیستم هدف‌گیری هوش مصنوعی خود به نام Lavender در غزه دارای دقت 90 درصدی است. اما آماندا کلازینگ، مدیر ملی روابط دولتی و حمایت از حقوق بشر در عفو بین‌الملل ایالات متحده، اشاره کرد که دقت زمانی اهمیت ندارد که تناسب “به طور کامل زیر پا گذاشته شود”، مانند زمانی که بمب 2000 پوندی بر روی یک ساختمان مسکونی انداخته می‌شود.

سیستم‌های هوش مصنوعی همچنین دستورات را بر اساس قوانین درگیری که توسط انسان‌ها تعیین شده‌اند، اجرا می‌کنند، که ممکن است بر اساس دستوراتی باشد که کاهش آسیب به غیرنظامیان را در اولویت قرار نمی‌دهند. اگر یک ارتش تصمیم بگیرد “که مرگ پنج غیرنظامی برای هر مظنونی که هدف قرار می‌گیرد قابل قبول است… شما به ماشین می‌گویید چه چیزی قابل قبول است”، گفت فلدستین.

Lavender برای شناسایی 37000 مرد فلسطینی به عنوان اهداف استفاده شده است. اما یک منبع اطلاعاتی به گاردین گفت که آنها به طور مداوم تحت فشار بودند تا اهداف بیشتری ارائه دهند. “اعداد همیشه تغییر می‌کردند، زیرا بستگی به این دارد که شما چه سطحی را برای یک عامل حماس تعیین کنید”، گفتند. نیروهای دفاعی اسرائیل همچنین این حملات را بر روی اهداف سطح پایین تأیید کردند، حتی اگر به معنای کشتن 15 تا 20 غیرنظامی به عنوان خسارت جانبی باشد.

حتی در حالی که حامیان وعده می‌دهند که هوش مصنوعی رویکردی انسانی‌تر به جنگ ایجاد خواهد کرد، آموزش برای کاهش آسیب به غیرنظامیان به شدت کاهش یافته است. مرکز تعالی حفاظت از غیرنظامیان پنتاگون، که در سال 2023 برای آموزش فرماندهی‌های نظامی در روش‌های کاهش آسیب به غیرنظامیان تأسیس شده است، در حال کاهش کارکنان خود از 40 نفر در ژانویه 2025 به تنها 9 نفر تا پایان امسال است.

مدرک جنگ هوش مصنوعی هنوز در دسترس نیست

شاهدان اشاره کردند که بخشی از مشکل این است که پنتاگون مدرکی مبنی بر اینکه سیستم‌های هوش مصنوعی آسیب به غیرنظامیان را کاهش می‌دهند، به اشتراک نگذاشته است. “اگر این واقعاً به این معناست که آسیب به غیرنظامیان را محدود می‌کند و دقیق‌تر و مؤثرتر است، پس بیایید مدرک آن را ببینیم”، گفت براون.