عملیاتیسازی سریع محیطهای جنگ الگوریتمی از دکترینهای دفاعی متعارف پیشی گرفته و بهطور بنیادی نحوهی شکلگیری و اجرای تصمیمات استراتژیک را تغییر داده است. با افزایش سرعتهای استقرار، جنگ AI ساختارهای فرماندهی نظامی را وادار میکند تا در زمانهای فشرده عمل کنند، جایی که تأیید واقعی شناخت انسانی به یک impossibility سیستمی تبدیل میشود. این وابستگی به معماریهای حرکتی خودکار به این معنی است که جنگ AI دیگر صرفاً قابلیتهای تاکتیکی را تقویت نمیکند، بلکه بهطور فعال پارامترهای درگیری حاکمیتی را تعیین میکند و پایهی اختیارات فرماندهی را از تأمل پیشگیرانه به تأیید واکنشی منتقل میسازد.
جنگ AI و بازتعریف نظارت استراتژیک
در ۲۴ ساعت اول عملیات ایالات متحده علیه ایران در زمستان امسال، یک سیستم هدفگذاری مبتنی بر هوش مصنوعی (AI) با نام رمز Epic Fury تقریباً هزار شیء را بر روی زمین برای حمله احتمالی شناسایی کرد. آنچه یک تحلیلگر انسانی نمیتوانست در یک روز انجام دهد، ماشین در چند ثانیه انجام داد.
آنچه انقلابی است، صرفاً این نیست که AI به تحلیلگران کمک میکند. این فراتر از آن است—هدفگذاری در زمان واقعی، هماهنگی در رهگیری موشکها و هدایت زنبورهای کشندهی پهپادهای خودکار. بحثهای سیاستی حول این موضوع، که بر حفظ انسانها “در حلقه” تمرکز دارد، بهطور کامل بهروز نشده است.
کنترل انسانی در جنگ AI به درک ماشین بستگی دارد. یک فرضیه کلیدی در حفظ انسانها در حلقه این است که آنها میدانند سیستم چگونه عمل میکند. با این حال، همانطور که MIT Technology Review بهتازگی بیان کرد، خطر در این نیست که ماشینها بدون نظارت انسانی عمل کنند، بلکه این است که “نظارتکنندگان انسانی هیچ ایدهای ندارند که ماشینها در واقع چه ‘میاندیشند.’
از اواخر فوریه، ایالات متحده بیش از ۱۱,۰۰۰ حمله علیه ایران انجام داده است، که بسیاری از آنها بهطور گزارششده توسط سیستم هوشمند Maven شرکت Palantir تنظیم شدهاند، که تصاویر ماهوارهای، دادههای پهپاد و دادههای مکانیابی را در یک رابط کاربری تمیز ترکیب میکند. یک مقام پنتاگون زنجیرهی کشتار را در سه حرکت توصیف کرد: “کلیک چپ، کلیک راست، کلیک چپ. بهطرز جادویی، این یک شناسایی میشود… هنگامی که آن تصمیم را دارید، در واقع سعی میکنید آن فرآیند را ‘عملی’ کنید.”
درک جادو درون سیستمهای جنگ AI
اصطلاح “جادو” یا قدرت به وجود آوردن چیزهای غیرممکن، مناسب است. زیرا هوش مصنوعی مرزی نه مهندسی شده بلکه رشد یافته است و عملکرد و پیچیدگی آن از ذهن انسان فرار میکند. آنتروپیک قصد نداشت مدلی بسازد که بتواند آسیبپذیریهای نرمافزاری را شناسایی و بهرهبرداری کند، به عنوان مثال. با این حال، این دقیقاً کاری است که سیستم جدید آن انجام میدهد.
ما در بهکارگیری هوش مصنوعی جعبه سیاه در حوزه بهداشت و درمان یا کنترل ترافیک هوایی تردید خواهیم کرد. اما در میدان نبرد، جهان در جهت مخالف در حال دویدن است. وزیر دفاع، پیتر هگست، در یادداشتهای استراتژی ژانویه ۲۰۲۶ خود به وضوح میگوید: خطرات حرکت کند با هوش مصنوعی اکنون از خطرات “تنظیم نادرست” بیشتر است.
ترجمه: ما یک سیستم را که به طور کامل درک نمیکنیم، میپذیریم، زیرا گزینه دیگر این است که توسط سیستمی که حتی کمتر درک میکنیم، از ما پیشی بگیرد. سرعت با هزینهای همراه است. وقتی مِیون هزار هدف کاندید را معرفی میکند، یک فرمانده، همانطور که الکه شوارتز از دانشگاه کین ماری هشدار میدهد، تقریباً هیچ زمانی برای “تأیید معنادار” ندارد. خروجی به سرعت تأیید میشود. یک بیمارستان کودکان مورد حمله قرار گرفت زیرا سیستم آن را شناسایی کرد—به درستی، برای آنچه که قبلاً وجود داشت. ماشین دروغ نمیگفت؛ دادههای آن فقط سالها قدیمی بود. در یک درگیری که با سرعت ماشین پیش میرود، زمان برای تأیید وجود نداشت.
تبلیغات تولید شده توسط هوش مصنوعی در حال تغییر جنگ اطلاعاتی است
هوش مصنوعی نه تنها ماهیت درگیریهای کینتیک را تغییر میدهد. بلکه جنگ اطلاعاتی را نیز متحول میکند. از فوریه، استودیوی طرفدار ایران به نام Explosive Media شبکههای اجتماعی را با انیمیشنهای تولید شده توسط هوش مصنوعی پر کرده است که در آنها ملاهای به سبک لگو، دونالد ترامپ و بنیامین نتانیاهو را به تمسخر میکشند. این کلیپها میلیاردها بازدید داشتهاند و سخنگوی استودیو به بیبیسی اعتراف کرده است که دولت ایران یکی از مشتریان اوست.
اختلال شناختی از طریق جنگ هوش مصنوعی زیرزمینی
این چیزی است که تبلیغات به نظر میرسد وقتی که از پیشبرد روایتهای صریح دست میکشد و شروع به سرگرم کردن تودهها میکند. کمپین لگو به افرادی که اخبار را دنبال میکنند هدف قرار نمیدهد. بلکه به میلیونها نفری که این کار را نمیکنند—غیرسیاسیها، که بین روندهای رقص و ویدیوهای دستور پخت اسکرول میکنند، هدف قرار میدهد. شوخی سیستم تحویل است؛ مضامین ضد یهودی و روایت ناکارآمدی آمریکایی بار محموله هستند. تا زمانی که شوخی به نتیجه برسد، استدلال مطرح شده است. جنگ هوش مصنوعی و جنگ اطلاعاتی در حال همگرایی هستند.
جنگ در سال ۲۰۲۶ در دو جبهه به طور همزمان با همان ابزارها در حال انجام است. مدلهای تولیدی که به یک تحلیلگر کمک میکند تا تصاویر پهپادها را بررسی کند، به یک تبلیغکننده اجازه میدهد تا صدای یک سیاستمدار را کپی کند. برخورد به جبهههای حرکتی و اطلاعاتی به عنوان مشکلات جداگانه سیاست، یک اشتباه دستهبندی است.
بدون شک، هوش مصنوعی تنها یک ابزار است. AlphaFold، یک هوش مصنوعی از همان خانوادهای که Maven را هدایت میکند، ساختار تقریباً هر پروتئین شناختهشدهای را پیشبینی کرده و در حال تسریع واکسنهای مالاریا، تحقیقات مربوط به مقاومت آنتیبیوتیکی و کشف داروهای سرطان است. همان ریاضیات که یک هدف را انتخاب میکند، میتواند جان یک کودک را نجات دهد.
جنگ هوش مصنوعی پیشی گرفتن از سیاستهای دفاعی جهانی
آنچه اهمیت دارد این است که چه کسی بر آن تسلط دارد و تحت چه قوانینی. این سوال سیاستی است که کشورهای دموکراتیک باید به آن به طور جدی توجه کنند. صندوق دفاعی اروپا در حال حاضر تأمین مالی اتحادیه اروپا برای سلاحهای خودکار کشنده را “بدون امکان کنترل معنادار انسانی بر تصمیمات انتخاب و درگیری” ممنوع کرده است – یک خط تاریخی و الزامآور در قانون.
پارلمان اروپا خواستار یک پیمان در مورد سیستمهای سلاح خودکار کشنده شده و سوالات دقیقی را درباره چگونگی جلوگیری از مهندسی شدن انسانها از زنجیره کشتار مطرح کرده است. با این حال، قانون هوش مصنوعی امنیت ملی و تأمین دفاع را مستثنی میکند و بر روی ۲۷ مسیر ملی اجرا میشود، بدون چارچوب اروپایی برای اینکه چه دادههایی ممکن است دولتها به مدلهای نظامی وارد کنند.
سه یا چهار سال دیگر، چنین شکافهایی فرضی نخواهند بود. زنبورکهای خودکار ارزان، که توسط مدلهای بنیادی آموزشدیده بر روی تصاویر عمومی هماهنگ شدهاند، در حال حاضر یک واقعیت میدان جنگ در اوکراین هستند. بدون وجود قوانین الزامآور قبل از استقرار، ما پس از مراسم تدفین آنها را خواهیم نوشت.
ناوبری در تله الگوریتمی واقعیتهای جنگ هوش مصنوعی
هیچ راهحل سیاستی سادهای وجود ندارد، اما مکانهای واضحی برای شروع وجود دارد. قابلیت حسابرسی باید در تأمین دفاع به همان اندازه که تست تصادف در فروش خودروها اهمیت دارد، وجود داشته باشد: اگر یک فروشنده نتواند نشان دهد که یک سیستم چگونه به یک توصیه هدفگذاری دست یافته است، آن محدودیت باید قوانین درگیری را شکل دهد، نه اینکه در یک ارائه فروش پنهان شود. جبهه اطلاعاتی باید به همان اندازه جدی گرفته شود که جبهه حرکتی – نه به عنوان مبارزهای علیه محتوای ویروسی به طور کلی، بلکه به عنوان سوالی درباره اینکه آیا سیاستهای خاص میتوانند در برابر تحریفهای ناشی از هوش مصنوعی که به طور خاص به آنها هدفگذاری شدهاند، زنده بمانند.
data-path-to-node=”20″>این شکاف است که پروژه آیندهنگر Polinoculate از GLOBSEC طراحی شده است تا آن را پر کند و به سیاستگذاران کمک کند تا پیشنهادات خود را در برابر اطلاعات نادرستی که احتمالاً دنبال خواهد شد، آزمایش کنند. و زبان صندوق دفاع در مورد “کنترل انسانی معنادار” یک خط شروع است، نه یک پایان: کار سختتر این است که آن را به یک چارچوب منسجم در مورد سلاحهای خودکار و دادههای نظامی گسترش دهیم، قبل از اینکه ۲۷ رویکرد ملی به رویکردهای ناسازگار تبدیل شوند.
در بالادست گوته در سال ۱۷۹۷، “شاگرد جادوگر”، شخصیت یک جارو را جادو میکند تا کارش را انجام دهد و سپس با وحشت میبیند که خانه را پر از آب میکند. اشتباه او تنها این نیست که از جادو استفاده میکند. بلکه این است که او از جادویی استفاده میکند که نه درک میکند و نه کنترل میکند. در پایان شعر، جادوگر پیر به کمک میآید و طلسم را میشکند.
متأسفانه، جادوگری برای تمیز کردن پس از ما برنمیگردد. حلقهای که باید در آن بمانیم، حلقهای نیست که بین اپراتور و ماشه وجود دارد. بلکه حلقهای است که بین قضاوت انسانی و ابزارهایی که میسازیم وجود دارد. اگر آن را از دست بدهیم، شکست خواهیم خورد. نه به دست ماشینها، بلکه به خاطر خودپسندیمان در این که وانمود کنیم میدانستیم آنها چه میکنند.