عملیات «خشم حماسی» با استفاده فشرده از ماون، کلود و لتیس، هدف‌گیری را در عرض ثانیه‌ها فشرده کرد و ظرف ۳۸ روز بیش از ۱۳٬۰۰۰ هدف را مورد اصابت قرار داد. حمله‌ای که به کشته‌شدن ۱۶۰ دانشجو منجر شد نشان می‌دهد اعتماد ماشین برابر با اطمینان نسبت به اهداف نیست و چین می‌تواند داده‌ها را جعل کند.
هدف‌گیری هوش مصنوعی از قضاوت انسانی پیشی می‌گیرد
در جریان عملیات Epic Fury، نیروهای آمریکایی گزارش داده‌اند که بیش از 1,000 هدف را در بیست و چهار ساعت اول و بیش از 13,000 هدف را در ظرف سی و هشت روز مورد حمله قرار دادند. به گفته رئیس فرماندهی مرکزی ایالات متحده، دریاسالار Brad Cooper، ایالات متحده در کمتر از چهل روز به اهداف نظامی خود دست یافت با «کاهش توانایی ایران در اعمال قدرت فراتر از مرزهایش و تهدید منطقه و… منافع ما.»
او همچنین خاطرنشان کرد که ادغام هوش مصنوعی در سنتکام به فشرده‌سازی فرآیندهایی که قبلاً ساعت‌ها یا روزها طول می‌کشید به ثانیه‌ها کمک کرده است، و مزایای عملیاتی بالقوه سامانه‌های توانمندشده با هوش مصنوعی را برجسته کرد. این مزایا محدود به هدف‌گیری سریع‌تر نبود—بلکه شامل انتشار سریع اطلاعات تهدید حیاتی به هواپیماهای آمریکایی عمل‌کننده در آسمان‌های منازعه‌آمیز نیز می‌شد. لوفت‌نظامی سپس:
ژنرال لواء Michael Conley، فرمانده فرماندهی عملیات ویژه نیروی هوایی، هوش مصنوعی را مسئول کاهش زمان انتشار اطلاعات از حدود بیست یا سی دقیقه به داخل کابین به تنها دو یا سه ثانیه دانست، که خدمه‌های آمریکایی را در برابر تهدیدات ایرانی ایمن‌تر می‌ساخت.
برای دهه‌ها، ارتش ایالات متحده در فناوری‌هایی سرمایه‌گذاری کرده است که هدف کاهش نیروی انسانی و زمان لازم برای شناسایی و تعیین مکان جغرافیایی اهداف را دنبال می‌کنند و بدین‌وسیله «زنجیره کشتن» را کوتاه می‌کنند. جنگ با ایران بازده عملیاتی بالقوه این سرمایه‌گذاری‌ها را نشان داد، با سامانه‌های توانمندشده با هوش مصنوعی که صدها منبع اطلاعاتی را ترکیب می‌کردند تا توصیه‌های هدف‌گیری را با سرعت و مقیاسی بی‌سابقه تولید کنند. در مرکز این قابلیت‌ها، سامانهٔ هوشمند Maven ساخت Palantir قرار داشت که اطلاعات را از منابع و پلتفرم‌های مختلف یکپارچه می‌کرد تا اهداف را شناسایی و اولویت‌بندی کند. Claude از Anthropic یک لایه استدلال اضافی درون Maven فراهم می‌کرد، در حالی که Lattice از Anduril داده‌های حسگر را برای پشتیبانی از آگاهی وضعیتی و عملیات خودگردان یکپارچه می‌نمود.
البته، جنگ‌افزارهای مبتنی بر هوش مصنوعی پدیده‌ای جدید در خاورمیانه نیستند. اسرائیل سال‌هاست که از سیستم‌های هدف‌یابی تحت‌کمک هوش مصنوعی مانند Gospel و Lavender و سایرین برای تلفیق اطلاعات و تولید توصیه‌های هدف‌گیری استفاده کرده است. اخیراً گزارش شده است که CENTCOM از ابزاری شبیه Maven برای پشتیبانی از توسعه اهداف سعودی و اشتراک‌گذاری اطلاعات علیه نیروهای حوثی در یمن استفاده کرده است. این فرماندهی همچنین اولین نیروی وظیفه دوجانبه نظامی آمریکایی در حوزه هوش مصنوعی را با امارات متحده عربی اعلام کرد. این تحولات نشان می‌دهد که هوش مصنوعی در حال ادغام فزاینده در عملیات نظامی در سراسر منطقه است و بر اهمیت به‌کارگیری گسترده درس‌های آموخته‌شده از Operation Epic Fury تأکید می‌کند.
Maven و Claude سرعت زنجیره کشتار را افزایش می‌دهند
با این حال یکی از مهم‌ترین درس‌ها این است که بررسی دقیق‌تر نقش هوش مصنوعی در فرآیند هدف‌گیری ضروری است قبل از آنکه این توانمندی‌های قدرتمند به‌طور گسترده‌تری در عملیات‌های آمریکایی و شرکایی ادغام شوند. هنوز مشخص نیست که هوش مصنوعی در اوج جنگ چه‌قدر دقیق عمل کرده، ضربات چه‌قدر مؤثر بوده‌اند، یا تا چه اندازه اپراتورهای انسانی بر هوش مصنوعی تکیه داشته‌اند. و صرف‌نظر از نتایج در این درگیری خاص، هدف‌گیری با سرعت ماشینی خطر کلی‌ای ایجاد می‌کند که تصمیم‌گیران انسانی یا به گلوگاه تبدیل شوند یا نقش مهر تأییدی بی‌ملاحظه را ایفا کنند، که در هر دو حالت پیامدهای عملیاتی و راهبردی نامطلوبی در پی دارد.
این تنش فراتر از تصمیمات فردی هدف‌گیری است و ممکن است بر نحوه پیگیری جنگ‌ها توسط واشنگتن تأثیر بگذارد. هوش مصنوعی ممکن است به نیروهای آمریکایی توانایی حمله به هزاران هدف در پی‌هم بدهد، اما ظرفیت بیشتر هدف‌گیری لزوماً به معنای اثر راهبردی بزرگ‌تر نیست. اگر در دسترس‌بودن اهداف شروع کند به تعیین آن‌چه مورد اصابت قرار می‌گیرد، فرآیند هدف‌گیری می‌تواند در نهایت استراتژی را تعیین کند نه اینکه خدمت کند به آن. این امر به‌ویژه در یک کارزار نظامی پایدار اهمیت دارد، جایی که مهمات محدود باید در برابر اهدافی که مستقیم‌تر به دستیابی به اهداف آمریکا کمک می‌کنند، اولویت‌بندی شوند.
خطرات اتکای بیش از حد به هوش مصنوعی
با گسترش همکاری‌های هوش مصنوعی توسط CENTCOM در سراسر منطقه، چالش فراتر از تعیین این خواهد بود که کدام فناوری‌ها باید به کدام شرکا و چه زمانی منتقل شوند. واشنگتن همچنین باید اطمینان دهد که نیروهای آمریکایی و شرکا برای ارزیابی نقادانه توصیه‌های تولیدشده توسط هوش مصنوعی آماده‌اند. این امر به‌ویژه اهمیت دارد زیرا سرعت پردازش هوش مصنوعی به تحلیل‌گران زمان کمتر — و بالقوه انگیزه کمتر — برای بازجویی از توصیه‌های تولیدشده توسط ماشین می‌دهد. تحت فشار زمان جنگ، تأخیرهای ناشی از اعتبارسنجی انسانی اضافی ممکن است کارکنان را وادار کند تا به‌جای عمل به‌عنوان لایه‌ای اضافی از دقت لازم، توصیه‌های هوش مصنوعی را بدون بررسی تائید کنند.
یکی از راه‌های جلوگیری از این امر، اطمینان از آن است که تحلیل‌گران دو مقوله متفاوت را با هم اشتباه نگیرند: اعتماد ماشین و اعتماد به هدف. به‌طور سنتی، تحلیل‌گران با بررسی اطلاعات تاریخی و جاری و درخواست جمع‌آوری اطلاعات اضافی، اعتماد به هدف را توسعه می‌دهند تا با هدف آشنایی کامل پیدا کنند. با این حال، توصیه‌های تولیدشده توسط هوش مصنوعی این پارادایم را تغییر می‌دهند: به‌جای توسعه اعتماد به هدف، تحلیل‌گران توصیه‌ای را که قبلاً قالب‌بندی شده دریافت می‌کنند و از آنها خواسته می‌شود آن را تأیید کنند. توسعه اعتماد به هدف و تأیید پس‌از‌قبول اعتماد ماشین دو وظیفه شناختی متفاوت هستند، و خطر آن است که اعتماد ماشین به‌عنوان اعتماد کافی به خود هدف اشتباه گرفته شود.
اعتراض دانش‌آموزان مدرسه، اطلاعات کهنه را آشکار کرد
این تمایز اهمیت دارد چون هوش مصنوعی می‌تواند اطلاعات را به‌درستی پردازش کند اما هنوز هم هنگام تولید یک توصیه اشتباه عمل کند، وقتی داده‌های زیربنایی قدیمی یا عمداً دست‌کاری شده‌اند. به حمله ایالات متحده به یک مدرسه دخترانه ایرانی در فوریه توجه کنید که بیش از 160 نفر را به‌کشته رساند. گزارش‌ها نشان می‌دهد که این مکان در پایگاه داده آژانس اطلاعات دفاعی به‌عنوان یک هدف نظامی باقی‌مانده بود و تصاویر ممکن است به‌روشنی تبدیل جزئی آن به استفاده غیرنظامی را نشان نداده باشند.
علاوه بر تلفات جانی، این حمله پیام‌رسانی استراتژیک ایالات متحده را تضعیف کرد و به تهران امکان داد ادعا کند که نیروهای آمریکایی یک جنایت جنگی مرتکب شده‌اند. اگرچه پژوهش در جریان است و نقش هوش مصنوعی در این تراژدی هنوز تعیین نشده است، این حادثه یک آسیب‌پذیری بالقوه را نشان می‌دهد: هدف‌گیری مبتنی بر هوش مصنوعی می‌توانست با تسریع زنجیره قتل پیش از آنکه تحلیل‌گران اطلاعات قدیمی یا متناقض را شناسایی کنند، خطاها را تشدید کند. بنابراین تعادل مناسب نظارت انسانی برای ایجاد اعتماد قابل‌اطمینان به هدف بدون قربانی کردن مزیت سرعت هوش مصنوعی حیاتی است.
تنظیم مناسب همکاری انسان و ماشین
رسیدن به این تعادل مستلزم اعتماد متناسب و به‌درستی تنظیم‌شده به سامانه‌های مجهز به هوش مصنوعی است. در پژوهش‌های خودکارسازی انسانی و هوش مصنوعی، «اعتماد تنظیم‌شده» درجه‌ای را توصیف می‌کند که بر اساس آن اپراتورهای انسانی بر خروجی یک سامانه بر اساس توانمندی‌ها و پایایی ارزیابی‌شدهٔ آن تکیه می‌کنند. در زمینهٔ نظامی، این بدان معناست که بدانیم چه زمانی باید به توصیه‌های هدف‌گیریِ هوش مصنوعی اعتماد کنیم، چه زمانی خروجی‌های آن را مورد پرسش قرار دهیم و چه زمانی آنها را نقض کنیم. اتکای بیش از حد می‌تواند خطاهای هدف‌گیری‌ای ایجاد کند که اهداف گسترده‌تر سیاست ایالات متحده را تضعیف کند، در حالی که اتکای ناکافی می‌تواند منجر به از دست رفتن فرصت‌ها شود.
در سپتامبر، برای مثال، نیروهای ایالات متحده تقریبا یک کشتی بازرگانی چینی را در خاورمیانه متوقف کردند پس از آنکه یک تحلیل‌گر بر مبنای ارزیابی نادرستِ یک سامانه هوش مصنوعی نتیجه گرفت که محموله کشتی مرتبط با سلاح‌های هسته‌ای است. هواپیماهای آمریکایی در حال ورود بودند و پرسنل آماده سوار شدن به کشتی بودند که تحلیل‌گران باتجربه‌تر خطا را کشف کردند.
در واقع، میزان بازبینی انسانی باید بازتاب‌دهنده ماهیت هدف و پیامدهای خطا باشد. برای مثال، یک بیل‌مکانیکی در یک تاسیسات هسته‌ای ایرانی که اخیراً تأیید شده ممکن است نیاز به بازبینی کمتری داشته باشد نسبت به هدفی که به‌تازگی بررسی نشده و در میان یک جمعیت غیرنظامی قرار دارد.
ایالات متحده به‌طور گسترده‌ای در تسریع زنجیره قتل سرمایه‌گذاری کرده است، اما نبردهای اخیر در خاورمیانه نشان می‌دهد که چرا باید به همان اندازه مصممانه در اطمینان از اینکه انسان‌هایی که در این زنجیره کار می‌کنند آموزش دیده‌اند تا با سرعت هماهنگ بمانند و فرمان درستِ هوش مصنوعی را در اختیار داشته باشند، سرمایه‌گذاری کند. حتی وقتی چرخه‌های هدف‌گیری سریع‌تر سرعت و وسعت عملیات نظامی را افزایش می‌دهند، تحلیل‌گران انسانی باید منابع زیربنایی توصیه‌های هوش مصنوعی را درک کنند، به‌سرعت اطلاعات متناقض یا دست‌کاری‌شده را تشخیص دهند و بدانند چه زمانی جمع‌آوری یا تأیید اضافی لازم است.
چین می‌تواند داده‌های هدف‌گیری را فریب دهد
این درس‌ها همچنین به یک درگیری احتمالی با چین، رقیبی که امکانات لازم برای به چالش کشیدن توانمندی‌ها، حسگرها و شبکه‌های ایالات متحده را دارد، سرایت می‌کند. این می‌تواند شامل فاسد کردن هدف‌گیری مبتنی بر هوش مصنوعی در مقیاسی گسترده‌تر و با پیچیدگی بیشتر از طریق مسیرهای جعلی، جعل سیگنال، طعمه‌ها و دیپ‌فیک‌ها باشد. Anthropic اخیراً شناسایی کرده است که مدل‌های هوش مصنوعی در تشخیص جعل سیگنال عملکرد ضعیفی دارند—به عبارت دیگر، دشمنان لازم نیست مستقیماً سامانه‌های هدف‌گیری آمریکا را متصرف شوند اگر بتوانند به‌طور مستمر آن‌چه این سامانه‌ها می‌بینند را دست‌کاری کنند.
با توجه به این نگرانی‌ها، معیارِ هدف‌گیری مؤثر مبتنی بر هوش مصنوعی نباید صرفاً این باشد که آیا یک انسان در حلقه باقی مانده است یا خیر. معیار باید این باشد که آیا آن انسان می‌دانست چه زمانی به ماشین اعتماد کند. یک تیم انسان-ماشین مؤثر قضاوت را بدون واگذاری غیرضروری سرعت حفظ خواهد کرد، تا حدی با درک اینکه چه زمانی پیامدهای خطا مستلزم کند کردن زنجیره قتل است و چه زمانی نیست.
هدف‌گیری مبتنی بر هوش مصنوعی نیازمند نظارت منضبط است
با توجه به تجربه به‌دست‌آمده در طول و پس از عملیات Epic Fury، مقامات دفاعی ایالات متحده باید یک راهبرد جامع پذیرش هوش مصنوعی تدوین کنند که قضاوت انسانی را تقویت، تضمین‌های فنی را ایجاد، عملکرد هوش مصنوعی را به‌صورت مستمر ارزیابی، و درس‌های آموخته‌شده از شرکا را دربرگیرد، با تمرکز بر عناصر زیر:
ارزیابی عملکرد هوش مصنوعی در منازعه ایران. پنتاگون باید بررسی‌های خارجی درباره عملکرد هوش مصنوعی در عملیات رزمی را سفارش دهد، از جمله دقت توصیه‌های هدف‌گیری تولیدشده توسط هوش مصنوعی و میزان اتکا یا چالش‌ورزی انسان‌ها نسبت به این خروجی‌ها.
افزایش سواد هوش مصنوعی در سراسر نیروهای نظامی. پنتاگون باید سواد هوش مصنوعی را در آموزش رسمی تحلیل‌گران بگنجاند و آنها را بارها در شرایط واقعی‌نمایانه در معرض چنین فناوری قرار دهد. تمرین‌ها باید شامل اطلاعات قدیمی، فریب دشمن، حسگرهای تضعیف‌شده و الگوریتم‌هایی با قابلیت اطمینان متفاوت باشند و از تحلیل‌گران بخواهند عملکرد خود را ارزیابی کرده و بسنجند که آیا سطح اتکای آنها به هوش مصنوعی مناسب بوده است یا خیر.
توسعه مدل‌های اعتبارسنجی ماشین-با-ماشین. معماری هدف‌گیری آینده باید شامل مدل‌ها و حسگرهای توسعه یافته به‌طور مستقل باشد تا تضادها یا ناهنجاری‌ها در توصیه‌های تولیدشده توسط هوش مصنوعی را شناسایی کند. این مدل‌ها باید در برابر عملکرد انسان و ترکیب انسان-ماشین آزمایش شوند تا مشخص شود آیا اعتبارسنجی مستقل ماشینی تشخیص خطا را بهبود می‌بخشد یا خیر. چنین اعتبارسنجی‌ای باید تکمیل‌کننده و نه جایگزین بررسی انسانی باشد و یک تضمین اضافی فراهم کند.
گسترش گفت‌وگو با متحدان و شرکا. CENTCOM باید گفت‌وگوهای منظم خاورمیانه‌ای درباره درس‌های آموخته‌شده را سازمان‌دهی کند، و بر تعاملات موجود مرتبط با هوش مصنوعی با Israel، Saudi Arabia، and the UAE تکیه کند. پنتاگون همچنین باید این گفتگو را به‌صورت جهانی گسترش دهد تا رویکردهای مشترکی برای هدف‌گیری با توانمندسازی هوش مصنوعی تدوین شود، مبتنی بر شیوه‌های برتر تثبیت‌شده در تیم‌سازی انسان-ماشین و سازگاری با حقوق درگیری مسلحانه.
ادغام حفاظ‌های اضافی هوش مصنوعی. پنتاگون باید ضوابط فنی‌ای را وارد کند که داده‌های بالقوه کهنه یا مسموم را نشان دهند، سهم‌های تولیدشده توسط ماشین را در محصولات نهایی اطلاعات به‌وضوح مشخص کنند، و اعتبارسنجی مستقل از موقعیت‌های هدف و داده‌های حسگر زیربنایی توصیه‌های هدف‌گیری تولیدشده توسط هوش مصنوعی را الزامی سازند.