استقرار جنگ‌های هوش مصنوعی علیه ایران از مرحله آزمایشی به مرحله عملیاتی منتقل شده است، به طوری که مدل‌های زبانی بزرگ اهداف را انتخاب کرده، پرتاب موشک‌ها را هماهنگ می‌کنند و از تحلیل‌های اطلاعاتی حمایت می‌کنند. این جنگ‌های هوش مصنوعی علیه ایران کمتر به نظارت قانونی وابسته است و بیشتر به شرایط خدمات خصوصی که توسط شرکت‌های فناوری تدوین شده است، بستگی دارد، تغییری که تصمیم‌گیری درباره استفاده از نیروی کشنده را از دست مقامات منتخب خارج می‌کند.
داده‌های نظرسنجی نشان می‌دهد که بیشتر آمریکایی‌ها درباره این سیستم‌ها اطلاعات کمی یا هیچ اطلاعاتی ندارند، حتی در حالی که این سیستم‌ها عملیات نظامی در ایران و غزه را شکل می‌دهند.
عواقب این موضوع انتزاعی نیست: یک حمله موشکی به یک مدرسه دخترانه در میناب ۱۷۵ نفر را کشت و دقت ابزارهای هدف‌گیری همچنان مورد مناقشه است. Anthropic، xAI، OpenAI و Palantir نقش‌های خود را با پنتاگون مذاکره کرده‌اند، ایران نیز تلاش کرده است از ابزارهای مشابه استفاده کند و جنگ‌های پهپادی دو دهه گذشته نتوانسته‌اند قوانین قانونی برای سلاح‌های خودکار ایجاد کنند. این مقاله استدلال می‌کند که وقتی شرایط خدمات شرکتی تنها محدودیت بر کشتارهای فعال‌شده توسط هوش مصنوعی می‌شود، عموم مردم هم شفافیت و هم کنترل دموکراتیک را از دست می‌دهند. سوال اصلی این است که آیا قانون‌گذاران می‌توانند قبل از اینکه جنگ‌های هوش مصنوعی علیه ایران به اندازه حملات پهپادی که پیش از آن بود، عادی شود، محدودیت‌هایی را وضع کنند.
گسترش جنگ‌های هوش مصنوعی علیه ایران
Claude به انتخاب و اولویت‌بندی اهداف در ایران کمک کرده است. Grok هزاران موشکی را که در روزهای اول جنگ پرتاب کرد، هماهنگ کرده است. و ChatGPT یک کهنه‌کار در جنگ غزه اسرائیل است.
این واقعیت که مدل‌های هوش مصنوعی که بیشتر کاربران از آنها برای نوشتن لیست خرید یا خلاصه‌سازی ایمیل‌ها استفاده کرده‌اند، در حال پشتیبانی از “جنگ‌های ابدی” جدید در خاورمیانه هستند، چیزی مضحک است. بله، Grok، این درست است: بیشتر آمریکایی‌ها—که در کشوری با یکی از بالاترین نرخ‌های نفوذ استفاده از هوش مصنوعی در جهان زندگی می‌کنند—متوجه نیستند که این فناوری‌های مصرفی همچنین در حال قدرت‌دهی به جنگ جاری رئیس‌جمهور دونالد ترامپ در ایران هستند. فناوری‌های فعال‌شده توسط هوش مصنوعی عملیات نظامی آمریکا را به شدت تقویت کرده‌اند، با این حال ۴۲ درصد از آمریکایی‌ها هیچ اطلاعاتی درباره آن ندارند.
شرکت‌های هوش مصنوعی—نه عموم مردم—قوانین جنگ خود را تعیین می‌کنند
سازمان من، مؤسسه امور جهانی، با YouGov همکاری کرد تا یک نظرسنجی ملی نماینده از آمریکایی‌های واجد شرایط رأی‌گیری درباره جنگ ایران انجام دهد. تنها ۸ درصد از آمریکایی‌ها درباره نقش هوش مصنوعی در این جنگ اطلاعات زیادی دارند، در حالی که اکثریت آمریکایی‌ها (۶۳ درصد) تنها “کمی” یا “هیچ” اطلاعاتی ندارند.
شرکت‌ها قوانین خود را تعیین می‌کنند
اگرچه بسیاری از این شرکت‌های فناوری نظامی تبلیغات خود را درباره جنگ‌های الگوریتمی در اتوبوس‌های واشنگتن دی‌سی یا در فرودگاه ملی ریگان انجام می‌دهند، اما عموم مردم از این گفتگو کنار گذاشته شده‌اند. سال گذشته، من در فایننشال تایمز استدلال کردم که عموم مردم حق دارند پاسخ‌هایی دریافت کنند؛ نظرسنجی‌های ما نشان داد که اکثریت آمریکایی‌ها خواهان قوانین سخت‌گیرانه‌تری در مورد استفاده‌های نظامی از هوش مصنوعی هستند.
اگرچه واشنگتن پست و دیگر رسانه‌ها از آن زمان گزارش داده‌اند که هوش مصنوعی به طور گسترده‌ای در جنگ‌های ترامپ استفاده می‌شود و رهبران پنتاگون تأیید کرده‌اند که این سیستم‌ها “فعال” هستند، این یافته‌ها نتوانسته‌اند در میان رأی‌دهندگان تأثیر بگذارند. این دانش نتوانسته است حفاظ‌هایی ایجاد کند و آن‌هایی که روی کاغذ وجود دارند، طبق گفته یک بازرس کل، در حال اجرا نیستند. در واقع، آنچه که واقعاً استانداردها را تعیین کرده، شرایط خدمات شرکت‌های مربوطه بوده است.
اینکه شرکت‌های هوش مصنوعی در واقع، استفاده‌های خود را مدیریت می‌کنند—به جای قانون‌گذاران یا قوه مجریه—واقعیت جدید و شاید حتی نگران‌کننده‌تری را ارائه می‌دهد.
این موضوع زمانی به وضوح مطرح شد که یک مدیر اجرایی از Anthropic پرسید آیا LLM آنها، کلود، در حمله به ونزوئلا که در آن نیکلاس مادورو ربوده شد، نقشی داشته است. یک ماه بعد، Anthropic از درخواست پنتاگون برای “تمام استفاده‌های قانونی” از چت‌بات امتناع کرد و منجر به تعیین آن به عنوان یک ریسک زنجیره تأمین شد. (یک قاضی در اوت پس از شکایت Anthropic درباره قرارداد، این تعیین را لغو کرد.) در مقابل، xAI، سازنده Grok، به بند “تمام استفاده‌های قانونی” پیوست. پنتاگون به اجرای کلود از طریق رابط کاربری که به نام سیستم هوشمند مِیون شناخته می‌شود، ادامه داد، طبق اطلاعات شرکت بزرگ پردازش داده، Palantir، که مِیون را اداره می‌کند.
در سوی دیگر جنگ، ایران از همان فناوری استفاده می‌کند. بازیگران ایرانی، طبق یادداشت ارزیابی تهدید اخیر Anthropic، سعی کردند پایگاه‌های آمریکایی را با کمک کلود هدف قرار دهند، اگرچه Anthropic این استفاده را مسدود کرد. تهران تقریباً مطمئن است که دوباره تلاش خواهد کرد.
OpenAI، از سوی خود، به آرامی ممنوعیت «نظامی و جنگ» را از شرایط خود در سال 2024 حذف کرد، همان‌طور که سم بیلد از The Intercept کشف کرد. به تازگی، پنتاگون از OpenAI خواسته است که یک چت‌بات با «نرخ‌های حداقل رد» ایجاد کند. (هم OpenAI و هم وزارت دفاع این موضوع را انکار کرده و می‌گویند که این متن پیش‌نویس بوده است.)
هزینه انسانی سنگین اشتباهات هوش مصنوعی
آیا این فناوری کار می‌کند یا نه، یا آیا خیلی خوب کار می‌کند؟ هر دو، و هر دو ترسناک هستند. هر یک از این چت‌بات‌های مصرفی دوست دارند به ما یادآوری کنند که می‌توانند اشتباه کنند. تا سال 2024، دقت Maven به طور کلی حدود 60 درصد است، طبق گفته افسر ارتش که آن را اداره می‌کند—یا حدود 24 درصد کمتر از یک انسان.
اشتباهات هدف‌گیری نظامی، چه توسط یک انسان و چه یک ماشین، عواقب واقعی و غم‌انگیزی دارند. در ساعات اولیه جنگ ایالات متحده و اسرائیل علیه ایران، یک حمله موشکی به یک مدرسه دخترانه در میناب، ایران، 175 نفر را کشت که اکثراً دانش‌آموزان بودند. این حادثه مرگبارترین واقعه جنگ تا به امروز بود و با این حال تنها حدود نیمی از آمریکایی‌ها درباره آن شنیده‌اند، طبق نظرسنجی IGA. در ماه مارس، 120 دموکرات مجلس نمایندگان نامه‌ای به پنتاگون نوشتند و درباره اینکه آیا از هوش مصنوعی، از جمله Maven، در این حمله استفاده شده است، پرسیدند.
غزه به عنوان آزمایشگاه جنگ هوش مصنوعی
کاستی‌های قابل توجه این فناوری‌ها در طول جنگ اسرائیل در غزه به نمایش گذاشته شده است، که برخی از کارشناسان سازمان ملل و گروه‌های حقوق بشر اسرائیلی آن را نسل‌کشی توصیف کرده‌اند. اسرائیل عملیات غزه در مه 2021 را «اولین جنگ هوش مصنوعی» نامید.
اکنون، میزان هدف‌گیری با قدرت هوش مصنوعی در مقیاس بسیار بیشتری است، به طوری که مجله +972 گزارش می‌دهد که سیستم‌های Lavender و Gospel اسرائیل ده‌ها هزار هدف ایجاد کرده‌اند—و در نتیجه تحمل برای مرگ‌های غیرنظامی را کاهش داده‌اند. پرسنل نظامی اسرائیلی به محقق سوفیا گودفریند گفته‌اند که ChatGPT و سایر ابزارها در غزه استفاده شده‌اند. با این حال، نزدیک به سه سال پس از 7 اکتبر، سخت است که بگوییم جنگ هوش مصنوعی برای اسرائیل به طور مؤثری کار کرده است، که منجر به گسترش مأموریت و تخریب بیشتر در غزه شده است.
جنگ‌های پهپادی آمریکا پیش‌درآمد جنگ‌های هوش مصنوعی بودند
این موضوع پیشینه‌ای آمریکایی نیز دارد. “جنگ‌های پهپادی”، که ابتدا در دوران جورج بوش آغاز شد و در دوران باراک اوباما تسریع یافت، تصویری وسوسه‌انگیز از عملیات‌های بدون سرنشین که از دور آغاز می‌شود، ارائه داد. کنگره هرگز در مورد حملات پهپادی قانونی تصویب نکرد و محدودیت‌های اجرایی که تیم اوباما ایجاد کرد، ناکافی بود؛ انگیزه کمی برای تنظیم جنگ‌های بدون سرنشین وجود داشت. همچنین هیچ فشاری از طریق کنترل تسلیحات بین‌المللی یا سازمان ملل وجود نداشت.
نسل جدید پهپادها، بسیاری با قابلیت‌های خودکار، سلاح‌های جنگ‌های ترامپ هستند. این ماه، گزارش شده است که ایران یک پهپاد زیرآبی از توسعه‌دهنده سیستم‌های بدون سرنشین ایالات متحده، آندوریل، را ضبط کرده است. یک پهپاد پیشرفته از شیلد ای آی، دیگر استارتاپ بزرگ فناوری نظامی ایالات متحده، به عنوان بخشی از کمپین حمله قایق‌های سیا در کارائیب مشاهده شده است، به نقل از Drop Site News.
آیا می‌توان جنگ‌های هوش مصنوعی علیه ایران را تنظیم کرد
در طول این دوره، تنها پشتیبان‌ها، میلیاردرهایی بودند که شرکت‌ها را تأسیس کردند، غول‌های فناوری در هیئت‌مدیره‌های آنها و شاید پول‌های خلیج فارس با ارتباطات دولتی که آنها را از طریق دورهای سرمایه‌گذاری تأمین مالی می‌کنند. عموم مردم آمریکا هرگز چیزی شبیه به شفافیت برای این تلاش‌ها دریافت نکرده‌اند—چه این شامل افشای اجباری به کنگره در زمان استفاده از هوش مصنوعی در زنجیره کشتار باشد، چه نیاز به بررسی انسانی برای آغاز حملات، یا یافته‌های کامل تحقیق در مورد بمباران مدرسه میناب که به عموم منتشر شده است. در سال 2026، احتمال بیشتری وجود دارد که شما در یک تماس درآمدی فصلی درباره اثربخشی هوش مصنوعی و پهپادها گزارشی رسمی بشنوید تا در یک کمیته سنا.
این مشکل فراتر از فناوری‌های اثبات‌نشده است. زمانی که محدودیت قدرت کشتن هوش مصنوعی از شرایط خدمات یک شرکت خصوصی ناشی می‌شود، ورود به جنگ بسیار آسان‌تر می‌شود.