هوش مصنوعی و جنگ سایبری؛ آیا حقوق بین‌الملل برای نبردهای خودمختار آماده است؟کیان بیگلربیگی و فرید فتحی

کیان بیگلربیگی- پژوهشگر دکتری حقوق بین‌­الملل دانشگاه تهران و عضو کمیته جوانان انجمن ایرانی مطالعات سازمان ملل متحد و  فرید فتحی- دانش آموخته کارشناسی ارشد حقوق بین‌الملل دانشگاه تهران، دانشکدگان فارابی
۱۴۰۵/۰۶/۰۱

فضای سایبر در چند دهه اخیر از یک بستر ارتباطی صِرف به یکی از مهم‌ترین عرصه‌های رقابت، اعمال قدرت و منازعه میان دولت‌ها تبدیل شده است. عملیات سایبری امروزه می‌تواند از جاسوسی و سرقت اطلاعات تا اختلال در شبکه‌های ارتباطی، سامانه‌های مالی، تأسیسات انرژی، زیرساخت‌های حیاتی و سامانه‌های نظامی را دربرگیرد. برخلاف تصور اوّلیه، فضای سایبر خارج از قلمرو حقوق بین‌الملل قرار ندارد و قواعد موجود از جمله حاکمیت دولت‌ها، منع توسل به زور، عدم مداخله و مسئولیت بین‌المللی دولت‌ها می‌توانند بر این فضا نیز اعمال شوند. ورود هوش مصنوعی به این عرصه، با این حال، مسئله‌ای جدیدتر و پیچیده‌تر ایجاد کرده است. سامانه‌های هوش مصنوعی قادرند حجم عظیمی از داده‌ها را تحلیل کنند، الگوهای تهدید را شناسایی کنند و در برخی کاربردهای نظامی در فرآیند شناسایی، انتخاب هدف و واکنش به تهدید مشارکت داشته باشند. در نتیجه، پرسش دیگر صرفاً این نیست که آیا یک عملیات سایبری با حقوق بین‌الملل سازگار است یا نه؛ بلکه باید پرسید اگر بخشی از فرآیند تصمیم‌گیری و اجرای یک عملیات به سامانه‌ای خودمختار واگذار شود، حدود مسئولیت حقوقی انسان و دولت در قبال پیامدهای آن کجاست؟

مفهوم «نبردهای خودمختار» در نقطه تلاقی دو تحول بزرگ قرار گرفته است: توسعه عملیات سایبری و گسترش سامانه‌های مبتنی بر هوش مصنوعی. در این وضعیت، یک سامانه ممکن است بتواند پس از فعال‌شدن، اطلاعات موجود را تحلیل، تهدید را شناسایی و حتی درباره انتخاب و درگیری با یک هدف تصمیم‌گیری کند. تجربه‌های معاصر استفاده نظامی از هوش مصنوعی نشان می‌دهد که این تحول دیگر صرفاً یک فرض نظری یا ناظر به آینده جنگ نیست. برای نمونه، گزارش‌های درباره سامانه «Lavender» در جریان برخی مخاصمات مسلحانه معاصر را باید مدنظر قرار داد و  یا گزارش‌هایی که از به‌کارگیری سامانه‌های مبتنی بر هوش مصنوعی برای پردازش حجم گسترده‌ای از داده‌ها، شناسایی و طبقه‌بندی افراد یا اماکن و تولید یا اولویت‌بندی اهداف احتمالی منتشر شده است. تحولاتی که پرسش‌های مهمی درباره میزان دخالت و نظارت انسانی، قابلیت اتکای ارزیابی‌های الگوریتمی، امکان بروز خطا و سوگیری در پردازش داده‌ها و در نهایت، تعیین مسئولیت حقوقی ناشی از تصمیمات مبتنی بر این سامانه‌ها را مطرح می‌سازند.کمیته بین‌المللی صلیب سرخ در بحث از سامانه‌های تسلیحاتی خودمختار هشدار داده است که هرچه میزان خودمختاری در فرآیند انتخاب و درگیری با اهداف افزایش یابد، امکان اعمال قضاوت و کنترل انسانی بر استفاده از زور کاهش پیدا می‌کند.

این مسئله زمانی اهمیت بیشتری پیدا می‌کند که هوش مصنوعی با عملیات سایبری ترکیب شود. یک حمله سایبری ممکن است در محیطی انجام شود که مرز میان اهداف نظامی و غیرنظامی به‌سادگی قابل تشخیص نباشد. یک شبکه رایانه‌ای ممکن است هم‌زمان بخشی از زیرساخت‌های نظامی و خدمات عمومی یک دولت را پشتیبانی کند. تجربه جنگ روسیه و اوکراین نمونه روشنی از این وضعیت ارائه می‌دهد. در جریان این مخاصمه، عملیات سایبری روسیه شبکه‌های مرتبط با دولت، انرژی، آب، حمل‌ونقل، خدمات اضطراری و سایر زیرساخت‌های حیاتی اوکراین را هدف قرار داده است؛ به‌گونه‌ای که یک حمله علیه شبکه یک سازمان زیرساختی می‌توانست علاوه بر آثار احتمالی نظامی، دسترسی غیرنظامیان به خدمات حیاتی را نیز مختل کند. برای نمونه، Microsoft گزارش کرده است که حملات مخرب سایبری علیه شبکه‌های بخش انرژی، آب و حمل‌ونقل اوکراین، هم‌زمان با حملات موشکی به همین زیرساخت‌ها، در برخی مقاطع جنگ رخ داده‌اند. همچنین، در آوریل ۲۰۲۲، یک عملیات سایبری علیه یک شرکت انرژی اوکراینی با استفاده از بدافزار Industroyer 2، قابلیت هدف قرار دادن سامانه‌های کنترل صنعتی را نشان داد. این تجربه عملی، دشواری تعیین ماهیت یک شبکه صرفاً بر مبنای کارکرد نظامی یا غیرنظامی آن را آشکار می‌سازد و در نتیجه، پرسش‌های مهمی را درباره نحوه اعمال اصل تفکیک، اصل تناسب، اصل منع ایجاد رنج غیرضروری و رعایت احتیاطات لازم در حملات سایبری مطرح می‌کند. بنابراین، حمله به یک سامانه ممکن است پیامدهایی فراتر از هدف اوّلیه داشته باشد و شبکه‌های درمانی، بانکی، ارتباطی یا انرژی را نیز تحت تأثیر قرار دهد. در چنین شرایطی، مسئله صرفاً کارآمدی فناوری نیست، بلکه رعایت اصول بنیادین حقوق بین‌الملل بشردوستانه است.

یکی از مهم‌ترین این اصول، اصل تفکیک است. طرف‌های مخاصمه باید میان غیرنظامیان و رزمندگان و نیز میان اموال غیرنظامی و اهداف نظامی تمایز قائل شوند. ماده ۴۸ پروتکل الحاقی اوّل به کنوانسیون‌های ژنو، این اصل را به‌عنوان یک قاعده بنیادین در هدایت عملیات نظامی مورد شناسایی قرار داده است. در حوزه عملیات سایبری نیز قواعد راهنمای تالین ۲.۰ بر استمرار همین الزام تأکید می‌کنند؛ به‌گونه‌ای که قاعده 113 مقرر می‌دارد که طرف‌های مخاصمه در انجام عملیات سایبری باید میان اهداف نظامی و اشیای غیرنظامی تمایز قائل شوند و حملات خود را صرفاً علیه اهداف نظامی هدایت کنند. بنابراین، ماهیت خاص فضای سایبر یا استفاده از فناوری‌های نوین، موجب تغییر یا تعلیق الزامات ناشی از اصل تفکیک نمی‌شود. در نتیجه، استفاده از فناوری‌های نوین نمی‌تواند دولت‌ها را از تعهد به تشخیص صحیح اهداف و جلوگیری از حمله علیه اشخاص و اموال غیرنظامی معاف کند. چالش زمانی آغاز می‌شود که تشخیص هدف به یک الگوریتم واگذار شود. سامانه هوش مصنوعی ممکن است بر اساس حجم عظیمی از داده‌ها، الگوهای رفتاری یا شاخص‌های آماری، یک شخص یا تأسیسات را به‌عنوان تهدید شناسایی کند؛ امّا تشخیص یک الگوی آماری الزاماً معادل تشخیص وضعیت حقوقی یک شخص یا هدف نیست. به همین دلیل، کمیته بین‌المللی صلیب سرخ بر ضرورت حفظ کنترل و قضاوت انسانی در استفاده از سامانه‌های خودمختار تأکید کرده است.

اصل تناسب نیز چالش دیگری ایجاد می‌کند. بر اساس حقوق بین‌الملل بشردوستانه، حمله‌ای که انتظار می‌رود خسارت اتفاقی آن به غیرنظامیان یا اموال غیرنظامی در مقایسه با مزیت نظامی مورد انتظار بیش از حد باشد، ممنوع است. این قاعده در ماده ۵۱(۵)(ب) و ماده ۵۷(۲)(الف)(iii) پروتکل الحاقی اوّل به کنوانسیون‌های ژنو نیز بازتاب یافته است. در حوزه عملیات سایبری، قاعده ۱۱۳ «راهنمای تالین ۲.۰» نیز همین معیار را در خصوص حملات سایبری اعمال می‌کند و مقرر می‌دارد که حمله سایبری در صورتی ممنوع است که انتظار رود خسارت اتفاقی آن به غیرنظامیان یا اشیای غیرنظامی، یا ترکیبی از آن‌ها، در مقایسه با مزیت نظامی عینی و مستقیم مورد انتظار، بیش از حد باشد. ازاین‌رو، استفاده از فناوری‌های سایبری، هوش مصنوعی یا سامانه‌های خودکار، طرف‌های مخاصمه را از ارزیابی تناسب پیش از انجام حمله و اتخاذ اقدامات لازم برای کاهش آسیب به غیرنظامیان معاف نمی‌کند. ارزیابی تناسب صرفاً یک محاسبه ریاضی نیست؛ بلکه مستلزم ارزیابی شرایط خاص حمله، ماهیت هدف، مزیت نظامی مورد انتظار و پیامدهای قابل پیش‌بینی آن است.

اصل دیگر ، منع ایراد صدمات زاید یا رنج غیرضروری است. بر اساس این اصل، طرف‌های مخاصمه در انتخاب و به‌کارگیری ابزارها و روش‌های جنگی با محدودیت مواجه‌اند و نمی‌توانند از وسایلی استفاده کنند که ماهیتاً موجب وارد آمدن صدمات زاید یا رنج غیرضروری شوند. ماده ۳۵(۲) پروتکل الحاقی اوّل به کنوانسیون‌های ژنو صراحتاً استفاده از سلاح‌ها، پرتابه‌ها، مواد و روش‌های جنگی با چنین ماهیتی را ممنوع می‌کند. در حوزه عملیات سایبری نیز قاعده 114راهنمای تالین ۲.۰ این محدودیت را در چارچوب حقوق حاکم بر عملیات سایبری مورد توجه قرار می‌دهد. ازاین‌رو، در کنار اصل تفکیک و اصل تناسب، منع ایراد صدمات زاید یا رنج غیرضروری را باید یکی از محدودیت‌های بنیادین بر انتخاب و به‌کارگیری ابزارها و روش‌های جنگی دانست؛ محدودیتی که توسعه فناوری‌های سایبری و سامانه‌های مبتنی بر هوش مصنوعی نیز نمی‌تواند دولت‌ها را از رعایت آن معاف سازد. بنابراین، حتی اگر هوش مصنوعی بتواند احتمال وقوع خسارت را با دقت بالایی محاسبه کند، این پرسش باقی می‌ماند که آیا می‌توان ارزیابی حقوقی «بیش از حد بودن» خسارت را به‌طور کامل به یک الگوریتم واگذار کرد؟

در اینجا مفهوم «کنترل انسانی معنادار» اهمیت ویژه‌ای پیدا می‌کند. مسئله صرفاً این نیست که یک انسان در ابتدای عملیات دستور فعال‌سازی سامانه را صادر کرده باشد؛ بلکه باید بررسی کرد آیا انسان در فرآیند استفاده از زور، توانایی واقعی برای نظارت، مداخله، محدودسازی و در صورت ضرورت توقف عملیات را دارد یا نه. از منظر کمیته بین‌المللی صلیب سرخ، کنترل انسانی باید به نحوی باشد که انسان‌ها همچنان بتوانند درباره استفاده از زور قضاوت کنند و مسئولیت تصمیم‌های مربوط به آن را بر عهده داشته باشند. این مسئله در عملیات سایبری اهمیت مضاعفی دارد. یک حمله سایبری ممکن است در مدت بسیار کوتاهی انجام شود و پس از نفوذ اوّلیه، به‌صورت خودکار در شبکه‌های دیگر گسترش پیدا کند. اگر سامانه هوش مصنوعی بر اساس اطلاعات جدید دامنه عملیات را توسعه دهد، این پرسش مطرح می‌شود که آیا تصمیم اوّلیه انسان برای آغاز عملیات می‌تواند مسئولیت تمام پیامدهای بعدی را توجیه کند؟ اگر پاسخ منفی باشد، باید مشخص شود که چه سطحی از نظارت انسانی برای حفظ مسئولیت حقوقی لازم است.

بر اساس مواد کمیسیون حقوق بین‌الملل درباره مسئولیت دولت‌ها 2001، فعل یا ترک فعلی که به دولت قابل انتساب باشد و نقض یک تعهد بین‌المللی را تشکیل دهد، می‌تواند موجب مسئولیت بین‌المللی آن دولت شود. ماده ۴ این سند نیز تصریح می‌کند که رفتار ارگان‌های دولت، خواه در مقام قانون‌گذاری، اجرایی، قضایی یا هر مقام دیگری، در صورت برخورداری از چنین وصفی، رفتار دولت محسوب می‌شود. ورود هوش مصنوعی این اصول را از میان نمی‌برد. دولت نمی‌تواند صرفاً با این استدلال که تصمیم عملیاتی توسط یک الگوریتم اتخاذ شده است، از مسئولیت بین‌المللی خود رهایی یابد. راهنمای تالین ۲.۰ نیز با تأکید بر استمرار قواعد عمومی مسئولیت دولت‌ها در فضای سایبر، تصریح می‌کند که رفتار انجام‌شده در عملیات سایبری، در صورت قابلیت انتساب به دولت بر اساس قواعد حقوق بین‌الملل، می‌تواند موجب مسئولیت بین‌المللی آن دولت شود؛ ازاین‌رو، استفاده از سامانه‌های خودکار یا مبتنی بر هوش مصنوعی، به‌خودیِ‌خود مانع انتساب رفتار به دولت نخواهد بود. فناوری نمی‌تواند به ابزاری برای ایجاد خلأ مسئولیت تبدیل شود. اگر دولت یک سامانه را توسعه دهد، آزمایش کند، مستقر سازد یا در عملیات نظامی مورد استفاده قرار دهد، باید بتواند سازگاری استفاده از آن با تعهدات بین‌المللی خود را تضمین کند. به تعبیر دیگر، خودمختاری فناورانه نباید به خودمختاری حقوقی تبدیل شود.

البته این بدان معنا نیست که هرگونه استفاده از هوش مصنوعی در جنگ یا فضای سایبر ذاتاً غیرقانونی است. حقوق بین‌الملل لزوماً با فناوری مخالفت نمی‌کند؛ بلکه نحوه استفاده از فناوری و پیامدهای آن را تنظیم می‌کند. هوش مصنوعی می‌تواند در برخی موارد به رعایت حقوق بشردوستانه نیز کمک کند؛ برای مثال، در تحلیل سریع داده‌ها، شناسایی برخی تهدیدها و پیش‌بینی آثار احتمالی یک عملیات. بنابراین، مسئله اصلی نباید انتخاب میان «انسان» و «ماشین» باشد، بلکه باید تعیین رابطه‌ای باشد که در آن فناوری تصمیم‌گیری انسانی را تقویت کند، بدون آنکه جایگزین قضاوت حقوقی و مسئولیت انسانی شود.

از این منظر، شاید مهم‌ترین خطر آینده نه صرفاً ظهور «ماشین‌های جنگ­جو»، بلکه شکل‌گیری نوعی شکاف مسئولیت باشد؛ وضعیتی که در آن انسان تصمیم اوّلیه را می‌گیرد، سامانه بر اساس الگوریتم عمل می‌کند و هنگامی که خسارتی غیرقانونی یا فاجعه‌بار رخ می‌دهد، مسئولیت میان طراح، فرمانده، دولت و سامانه توزیع شده و در نهایت هیچ بازیگری مسئولیت کامل را بر عهده نگیرد! چنین وضعیتی با منطق بنیادین حقوق بین‌الملل ناسازگار است. از همین­رو، بحث درباره ایجاد قواعد مشخص‌تر برای سامانه‌های خودمختار اهمیت فزاینده‌ای پیدا کرده است. کمیته بین‌المللی صلیب سرخ در موضع رسمی خود درباره سامانه‌های تسلیحاتی خودمختار، خواستار ایجاد قواعد الزام‌آور جدید برای محدود کردن استفاده از این سامانه‌ها شده و بر ضرورت اعمال محدودیت‌هایی درباره نوع اهداف، محیط و مدت استفاده و نیز حفظ کنترل انسانی تأکید کرده است. این رویکرد نشان می‌دهد که بحث آینده صرفاً درباره این نیست که آیا قواعد موجود قابل اعمال هستند یا نه؛ بلکه مسئله آن است که آیا قواعد موجود برای مدیریت سطح جدیدی از خودمختاری کافی هستند یا نیاز به توسعه هنجارهای جدید وجود دارد.

بنابراین، پاسخ به پرسش اصلی این مقاله که «آیا حقوق بین‌الملل برای نبردهای خودمختار آماده است؟» نه کاملاً مثبت است و نه کاملاً منفی. بخش قابل‌توجهی از قواعد موجود، از جمله اصول تفکیک، تناسب، منع ایجاد رنج غیرضروری و احتیاطات در حمله و قواعد مسئولیت بین‌المللی دولت‌ها، همچنان قابلیت اعمال بر فناوری‌های جدید را دارند (ماده ۵۷ پروتکل الحاقی اوّل به کنوانسیون‌های ژنو و قاعده 114 راهنمای تالین ۲.۰). بنابراین مشکل اصلی بیشتر در تعیین نحوه اعمال این قواعد بر تصمیم‌هایی است که میان انسان و ماشین توزیع شده‌اند.

در نهایت، مسئله آینده جنگ سایبری صرفاً این نیست که هوش مصنوعی تا چه اندازه هوشمند خواهد شد؛ مسئله مهم‌تر این است که حقوق بین‌الملل تا چه اندازه می‌تواند هم‌زمان با افزایش خودمختاری فناوری، مسئولیت انسانی را حفظ کند. اگر هوش مصنوعی به‌عنوان ابزار تقویت تصمیم‌گیری انسانی به­کار گرفته شود، می‌تواند حتی به کاهش خطا و آسیب‌های جنگ کمک کند؛ امّا اگر خودمختاری فناورانه به خودمختاری حقوقی و مسئولیتی نیز تبدیل شود، خطر شکل‌گیری منطقه‌ای خاکستری افزایش خواهد یافت که در آن تصمیم وجود دارد، نتیجه وجود دارد، قربانی وجود دارد، امّا مسئولیت مشخصی وجود ندارد!

ازاین‌رو، شاید مهم‌ترین اصل برای آینده حقوق بین‌الملل این باشد که هرچه تصمیم‌گیری نظامی خودکارتر می‌شود، مسئولیت انسانی نباید کم‌رنگ‌تر شود. فناوری می‌تواند ابزار تصمیم‌گیری باشد، امّا نمی‌تواند جایگزین تعهد حقوقی دولت‌ها و مسئولیت انسانی شود. آینده حقوق بین‌الملل در عصر هوش مصنوعی دقیقاً در همین نقطه تعیین خواهد شد.