در 9 اسفند 1404، ایالات متحده آمریکا و اسرائیل عملیات متجاوزانه مشترکی را علیه ایران آغاز کردند. این عملیات نظامی‌ به‌ سرعت با عنوان «نخستین جنگ مبتنی بر هوش مصنوعی» شناخته شد. گزارش ­ها حاکی از آن است که ارتش آمریکا برای حمله به حدود ۱۰۰۰ هدف در ۲۴ ساعت اول، از ابزار "کلود" (Claude) شرکت "آنتروپیک" (Anthropic) استفاده کرده است. این سامانه هوش مصنوعی با بهینه سازی انتخاب هدف، تحلیل داده ­های اطلاعاتی و تعیین مختصات دقیق مکان از طریق تصاویر ماهوارهای، در برنامه ­ریزی جنگی کمک زیادی کرده است. استفاده از هوش مصنوعی کلود بخشی از پروژه "سامانه هوشمند مِیوِن" (Maven Smart System) پنتاگون است.

سامانه میون که توسط شرکتی به نام "پالانتیر" (Palantir) توسعه یافته و ریشه در پروژه میون دهه ۲۰۱۰ دارد، سه کارکرد اصلی را انجام می‌دهد: 1) شناسایی هدف، 2)تطبیق مهمات با هدف شناسایی شده، و 3) ارزیابی آسیب ناشی از حمله. سامانه میون با ادغام ۱۷۹ منبع داده شامل تصاویر ماهواره‌ای، سامانه‌های نظارتی و اطلاعات طبقه‌بندی‌شده، به شناسایی تهدیدات و اهداف می‌پردازد. این سامانه با استفاده از داده ­های طبقه ­بندی ­شده از ماهواره ­ها، سیستم ­های نظارتی و سایر منابع اطلاعاتی، شرایطی را فراهم می­ کند تا گزینه­ های هدف­گیری لحظه ­ای برای جنگ ایجاد گردند.

افزایش استفاده از هوش مصنوعی در سامانه­ های تسلیحاتی، "زنجیره کشتار" (Kill Chain) را کوتاه می ­کند (یعنی زمان بین شناسایی هدف و لغو آن را کاهش می ­دهد). این امر منجر به "فشردگی فرآیند تصمیم­ گیری" می ­شود که طی آن کنشگران انسانی به جای قضاوت و تصمیم­ گیری مستقل، شدیدا به توصیه ­های الگوریتمی متکی می ­شوند. با توجه به فقدان هرگونه قوانین الزام ­آور در مورد استفاده مسئولانه از هوش مصنوعی نظامی، خطرات ناشی از کاربرد هوش مصنوعی در سامانه‌های تسلیحاتی به­ طور فزایندهای در حال افزایش است.

سامانه میون، مدت زمان "زنجیره کشتار" را به زیر ۷۲ ثانیه (و در مواردی ۲۰ ثانیه) کاهش داده و نقش نظارتی انسان را به حداقل می­ رساند (فقط یک کلیک برای تأیید نهایی). علاوه بر آن، تراکم مراکز غیرنظامی، سامانه را به سمت تایید حملات حتی با اطمینان پایین سوق داده و تلفات غیرنظامیان را به طور چشم گیری افزایش می‌دهد. 

پیامدهای استفاده از هوش مصنوعی در ابعاد نظامی

اگرچه هوش مصنوعی به عنوان ابزاری برای بهبود دقت و کارایی عملیاتی به کار گرفته می ­شود، اما استفاده نظامی از آن نگرانی ­های جدی در مورد مسئولیت ­پذیری و حفاظت از غیرنظامیان ایجاد کرده است. سامانه­ های شناسایی هدف، تنها به اندازه­ ای قابل اعتماد هستند که داده­ های آنها معتبر باشند. در این زمینه نگرانی‌های عمده مربوط به حقوق بشردوستانه زمانی تشدید شد که یکی از همین حملات در نخستین روز جنگ، دبستان "شجره طیبه" در میناب (استان هرمزگان) را هدف قرار داد. این حمله که با استفاده از موشک تاماهاوک انجام شد، به شهادت 156 غیرنظامی‌که بیش از ۱۲۰ نفر از آنان کودکانی بین ۷ تا ۱۲ سال بودند انجامید.

کمیته بین‌ المللی صلیب سرخ در بیانیه خود خطاب به شورای امنیت سازمان ملل (سپتامبر ۲۰۲۵) نسبت به سه کاربرد مهم هوش مصنوعی در عرصه نظامی هشدار داده است: ۱) سامانه‌های خودمختار تسلیحاتی، ۲) سامانه‌های پشتیبانی تصمیم‌گیری و ۳) سامانه‌های سایبری مبتنی بر هوش مصنوعی.

در خصوص سامانه‌های پشتیبانی تصمیم‌گیری، ICRC  اذعان می‌دارد که ممکن است "سرعت و مقیاس بالا، همراه با سوگیری اتوماسیون، به تأیید کورکورانه توسط کاربر انسانی منجر و جایگزین قضاوت انسانی گردد". این نگرانی به روشنی در عمل‌کرد سامانه لوندر اسرائیل (تأیید ۲۰ ثانیه‌ای اهداف بدون بررسی انسانی واقعی) و سامانه میون امریکا (سرعت غیرقابل تأیید اطلاعات) مشهود است. همچنین کمیته بین ­المللی صلیب سرخ تجربه تاریخی خود را یادآوری می‌کند که «ادعای جدید بودن ابزارهای دقیق‌تر و انسانی‌تر» همواره از سوی توسعه‌دهندگان سلاح‌های جدید مطرح شده، اما "نتیجه در میدان نبرد هرگز بهبود چشمگیر وضعیت غیرنظامیان نبوده؛ بلکه تخریب شتاب‌یافته و گسترش‌یافته‌ای با نتایجی هولناک رقم خورده است".

حقوق بین­ الملل بشردوستانه  ایجاب می­کند که یک عملیات نظامی از اصول تفکیک، تناسب و احتیاط پیروی کند. فرماندهان باید بین غیرنظامیان و رزمندگان تمایز قائل شوند و اطمینان حاصل کنند که مزیت نظامی‌بر آسیب احتمالی به غیرنظامیان برتری دارد. هنگامی‌که سامانه­ های هوش مصنوعی به طور عمیق در چرخه هدف­ گیری تعبیه می­ شوند، تشخیص این­که آیا این تعهدات بشردوستانه انجام می­ شوند یا خیر، شدیدا دشوار می­ شود. اگر حمله­ ای مبتنی بر توصیه­ های الگوریتمی منجر به تلفات غیرنظامیان شود، موضوع انتساب عمل متخلفانه پیچیده شده و زنجیره پاسخگویی بین فرماندهان، برنامه ­نویسان، شرکت­ های فناوری خصوصی و سامانه ­های یادگیری ماشین مبهم باقی می­ماند.

نگرانی عمده دیگر در این حوزه، در ابهام فرآیند تصمیم ­گیری هوش مصنوعی نهفته است. بسیاری از مدل­ های هوش مصنوعی همچون "جعبه­ های سیاه" عمل می­ کنند - حتی ایجاد­کنندگان آنها نیز نمی ­توانند به ­طور کامل توضیح دهند که چگونه سامانه به یک خروجی خاص رسیده است. هنگامی‌که چنین سامانه ­هایی برای تولید توصیه ­های هدف­گیری استفاده می­شوند، ممکن است پرسنل نظامی در رد یا تأیید نتایج الگوریتم با مشکل مواجه شوند. چنین موضوعی این خطر را افزایش می ­دهد که نظارت انسانی ماهوی، به نظارتی تشریفاتی تبدیل شود. این امکان وجود دارد که در شرایط تصمیم­ گیری بسیار سخت و پیچیده، فرماندهان نظامی‌به­ جای انجام تأیید مستقل و دقیق انسانی، صرفاً فهرست اهداف تولیدشده توسط الگوریتم را مورد تأیید قرار دهند.

با این حال، دولت ­ها هنوز گام ­های ملموسی برای کاهش خطرات مرتبط با استفاده نظامی از هوش مصنوعی برنداشته ­اند. ادغام سریع هوش مصنوعی در عملیات ­های نظامی واقعی نشان می­ دهد که تلاش­ های حاکمیتی در همگامی‌با پذیرش فناوری با مشکل مواجه است. مثال پروژه میون پنتاگون نشان می­دهد که چگونه استراتژیست­ه ای نظامی، هوش مصنوعی را برای حفظ برتری عملیاتی ضروری می­ دانند.

در غیاب مقررات الزام­ آور مربوطه، قدرت ­های بزرگ با شتاب به ادغام هوش مصنوعی در عملیات­ های نظامی ادامه می ­دهند. جنگ ایران نمایی زودهنگام از جنگ ­های آینده را نشان می­ دهد که در آن هوش مصنوعی دیگر محدود به پشتیبانی لجستیکی یا اطلاعاتی نیست؛ بلکه تصمیمات هدف­گیری و برنامه ­ریزی عملیاتی را نیز شکل می­دهد. با تشدید رقابت نظامی میان قدرت ­های بزرگ، تمایل پذیرش قابلیت ­های مبتنی بر هوش مصنوعی بیشتر خواهد شد. دولت ­ها می­ ترسند پذیرش محدودیت در استفاده از هوش مصنوعی، آنها را در برابر رقبا در موقعیت استراتژیک ضعیف ­تری قرار دهد.

 با این وجود، برتری فناورانه نباید به بهای فقدان مسئولیت اخلاقی و پاسخگویی حقوقی تمام شود. باید ساز و کارهای حقوقی الزام ­آوری توسعه یابد که تایید کند دولت ­ها و افراد (نه ماشین­ ها و الگوریتم ­ها) مسئولیت حقوقی و اخلاقی حملات انجام ­شده را بر عهده دارند. این امر می­ تواند به جلوگیری از ایجاد شکاف ­های پاسخگویی در استفاده از هوش مصنوعی در حوزه نظامی‌کمک کند. علاوه بر این، دولت‌ها باید برای ایجاد استانداردهای روشن در مورد "شفافیت"، "پاسخگویی" و "کنترل انسانی" جهت استفاده از هوش مصنوعی در جنگ تلاش کنند. این امر شامل اطمینان از مشارکت حقیقی انسان در تصمیمات مربوط به استفاده از نیروی مرگبار، ایجاد امور کنترلی برای سامانه­ های هوش مصنوعی نظامی، و تقویت چارچوب ­های حقوقی حاکم بر فناوری ­های نوظهور نظامی می­ شود. متاسفانه دولت‌های پیشرو در توسعه و استفاده از هوش مصنوعی نظامی (از جمله ایالات متحده و اسرائیل)، از انجام مذاکره برای ایجاد قواعد الزام‌آور مورد نیاز خودداری کرده‌اند. ایالات متحده به‌صراحت با هرگونه «تنظیم حقوقی بین‌المللی هوش مصنوعی نظامی» مخالفت کرده و حتی در عمل، مشاوران حقوقی خود را که مدافع اجرای قواعد بشردوستانه بودند، کنار گذاشته است. این امتناع از تنظیم‌گری، همراه با سرعت خیره‌کننده توسعه فناوری، آینده‌ای را رقم می‌زند که در آن «جعبه‌های سیاه» الگوریتمی، قدرت تصمیم‌گیری حیات و مرگ میلیون‌ها انسان را به دست می‌گیرند، در حالی که قضات دیوان کیفری بین‌المللی حتی در تعریف «قصد مجرمانه» در چنین فرآیندهایی درمانده خواهند بود.

 جمع ­بندی

حمله به مدرسه میناب در نخستین روز جنگ علیه ایران، نقطه عطفی غم‌انگیز در تاریخ فناوری‌های نظامی است. این حادثه به‌وضوح نشان داد که هوش مصنوعی، حداقل در شرایط فعلی که تحت کنترل و نظارت انسانی مؤثر نیست، نقض‌های جدی قواعد بنیادین حقوق بشردوستانه (به‌ویژه اصل تفکیک و اصل احتیاط) را تسهیل می‌کند. از اینرو دولت‌ها باید فوراً مذاکره برای انعقاد یک سند بین‌المللی الزام‌آور را آغاز کنند که الف) استفاده از سامانه‌های هوش مصنوعی در هدف‌گیری را محدود کند، ب) سامانه‌های تسلیحات کشنده خودمختار (LAWS) بدون کنترل انسانی مؤثر را ممنوع کند، ج) و مکانیسم‌های شفافیت و پاسخگویی مداوم را الزامی سازد.

هرگونه استفاده از سامانه‌های هدف‌گیری مبتنی بر هوش مصنوعی باید مستلزم «زمان و فرصت کافی» برای بررسی و تأیید انسانی باشد. فرآیندهای تأیید ۲۰ ثانیه‌ای سامانه ­هایی چون میون و لوندر یا اتکای کورکورانه به خروجی هوش مصنوعی، فاقد صلاحیت لازم انسانی است و باید ممنوع شود. دولت‌های استفاده‌کننده از هوش مصنوعی نظامی، باید سوابق تمامی مراحل شامل گردآوری داده، آموزش الگوریتم، خروجی توصیه‌شده و اقدامات بررسی‌شده را مستند و برای مکانیسم‌های نظارت بین‌المللی، قابل دسترس سازند. بدون شفافیت، هرگونه تلاش برای «حسابرسی» هوش مصنوعی نظامی غیرممکن خواهد بود.

علاوه بر آن شرکت‌هایی مانند گوگل، آمازون، مایکروسافت و پالانتیر که بدون محدودیت با ارتش‌ها همکاری می‌کنند، باید استانداردهای داخلی شفافی برای جلوگیری از استفاده در هدف‌گیری‌های غیرقانونی وضع و نتایج مستقل آن را به‌طور عمومی منتشر کنند.

حادثه میناب ثابت کرد که خطراتی که کارشناسان حقوق بشر و حقوق بشردوستانه سال‌ها درباره آن هشدار می‌دادند، نه «تئوری توطئه» بلکه واقعیتی انکارناپذیر است. همان گونه که ICRC در بیانیه خود به شورای امنیت تصریح کرده است: "ما نمی‌توانیم (و نباید) اجازه دهیم این سامانه‌ها بدون نظارت و تنظیم‌گری به توسعه و استفاده ادامه دهند. هیچ فناوری جدیدی تاکنون نتوانسته غیرنظامیان را بهتر از قواعد موجود محافظت کند. اکنون نیز وضع به همین منوال است."

 احسان محمدی، کارشناس مرکز مطالعات سیاسی و بین ­المللی

(مسئولیت محتوای مطالب برعهده نویسندگان است و بیانگر دیدگاه‌های مرکز مطالعات سیاسی و بین‌المللی نیست)