
فائزه محمدی - دانشجوی دکتری حقوق بین الملل عمومی دانشگاه تهران
۱۴۰۵/۰۸/۲۳
تصویب نهایی «قانون ملی توسعه هوش مصنوعی» توسط شورای نگهبان در تاریخ ۴ شهریور ۱۴۰۵، پس از طی دو دور اصلاح در پی ایرادات این شورا، نخستین اقدام تقنینی مستقل ایران برای ایجاد چارچوب نهادی و توسعهای در حوزه هوش مصنوعی به شمار میرود. این قانون مشتمل بر دوازده ماده و هشت تبصره است و عمدتاً به ایجاد چارچوب نهادی (سازمان ملی هوش مصنوعی)، تعیین صلاحیتهای اجرایی دستگاهها، و تأمین مالی (صندوق ملی توسعه هوش مصنوعی) میپردازد. هدف این یادداشت، ارزیابی نخستین از نسبت این قانون با برخی هنجارها و چارچوبهای حقوق بینالملل عمومی است؛ ارزیابیای که به دلیل تازگی موضوع، ماهیت مقدماتی دارد و مستلزم بررسی تفصیلیتر در آییننامههای اجرایی آتی است که طبق مواد متعدد این قانون ظرف سه تا شش ماه باید تدوین شوند.
صلاحیت سرزمینی در برابر ماهیت فرامرزی فناوری
نخستین نکته قابلتوجه، فقدان هرگونه ارجاع صریح در متن قانون به اسناد یا هنجارهای حقوق بینالملل است. این ویژگی، قانون ایران را از رویکرد برخی نظامهای حقوقی دیگر متمایز میکند؛ برای نمونه، مقررات هوش مصنوعی اتحادیه اروپا (Regulation (EU) 2024/1689) در بندهای مقدماتی خود صراحتاً به منشور حقوق بنیادین اتحادیه اروپا ارجاع میدهد و حتی برخی الزامات آن (نظیر ممنوعیت سامانههای امتیازدهی اجتماعی) را مستقیماً بر پایه کرامت انسانی مندرج در آن منشور توجیه میکند. قانون ایران، در مقابل، عمدتاً بر پایه صلاحیت سرزمینی و از منظر تنظیمگری صرفاً داخلی نوشته شده و هیچ بند مقدماتی یا موادی ناظر بر مبانی حقوق بشری یا حقوق بینالملل ندارد. با این حال، این فقدان ارجاع را نباید بیدرنگ بهمعنای بیاعتنایی کامل به بعد بینالمللی موضوع تلقی کرد. ماده ۱۰ قانون، وزارت امور خارجه را مکلف به حمایت از «ایجاد یا توسعه مراکز و آزمایشگاههای مشترک هوش مصنوعی با سایر کشورها»، ایجاد «سکوهای آموزشی بینالمللی»، و «حضور فعال در مجامع و کرسیهای بینالمللی» میکند. همچنین ماده ۹ (بند ت)، انعقاد قراردادهای تبادل داده با اشخاص خارجی را منوط به «رعایت حریم خصوصی» میداند. این مقررات نشان میدهند که قانونگذار به بعد فرامرزی داده و فناوری آگاه بوده، اما این آگاهی را در چارچوب مفهومی حقوق بینالملل عمومی صورتبندی نکرده است؛ بهعبارت دیگر، این مقررات را باید در قالب تکالیف اقدام اداری (obligations of conduct) خواند، نه پذیرش یک نظام هنجاری بینالمللی مشخص.
این رویکرد، پرسش کلاسیک صلاحیت سرزمینی را در برابر فناوریای که ذاتاً فرامرزی است مطرح میکند. اصل صلاحیت سرزمینی همچنان یکی از مبانی اصلی اعمال صلاحیت تقنینی و اجرایی دولتهاست. رأی لوتوس دیوان دائمی دادگستری بینالمللی (۱۹۲۷)، هرچند در شکلگیری ادبیات کلاسیک صلاحیت مؤثر بود، صرفاً ناظر به آزادی دولت در اعمال صلاحیت در غیاب منع صریح بینالمللی بود، نه مبنایی اثباتی و کافی برای صلاحیت. رویکرد معاصر به صلاحیت، بهویژه صلاحیت برونمرزی، محدودتر و حساستر از این خوانش کلاسیک است؛ در حوزه هوش مصنوعی، محل استقرار داده، زیرساخت ابری، ارائهدهنده مدل، و محل اثر تصمیم میتوانند مبانی صلاحیت را همزمان فعال و متعارض کنند .قانون ایران، با تمرکز بر ایجاد نهادهای داخلی (سازمان ملی هوش مصنوعی، مرکز ارزیابی امنیت سامانهها) بدون پیشبینی صریح سازوکار همکاری قضایی یا اداری فرامرزی برای نظارت بر دادهها و سامانههایی که خارج از مرز پردازش میشوند، این تنش را حلنشده باقی میگذارد.
مسئولیت دولت و خلأ قاعده توزیع مسئولیت
مسئله انتساب رفتار (attribution) در حقوق مسئولیت دولت، هنگامی که به سامانههای هوش مصنوعی دولتی میرسد، پیچیدگی خاصی مییابد که طرح مواد کمیسیون حقوق بینالملل درباره مسئولیت دولتها (۲۰۰۱) برای آن پاسخ آمادهای ندارد. ماده ۴ این طرح، رفتار هر ارگان دولت را صرفنظر از موقعیت آن در ساختار دولت قابلانتساب به دولت میداند.
اما سامانه هوش مصنوعی، برخلاف اشخاص یا ارگانها، فاقد شخصیت حقوقی یا اراده مستقل است؛ بنابراین پرسش انتساب را نباید در قالب آیا خروجی ماشین رفتار ارگان است یا رفتار شخص تحت کنترل صورتبندی کرد. آنچه واقعاً موضوع انتساب قرار میگیرد، رفتار انسانی و نهادی ارگان دولتی است: انتخاب سامانه، تعیین دادههای آموزشی یا عملیاتی، تنظیم آستانهها، استقرار، نظارت بر عملکرد، و اتکا به خروجی برای صدور یا اجرای تصمیم. در این چارچوب، ماده ۴ طرح مواد مسئولیت دولتها که رفتار هر ارگان دولت را صرفنظر از کارکرد آن به دولت منتسب میداند مبنای اولیه انتساب است؛ ماده ۸ عمدتاً زمانی موضوعیت مییابد که توسعهدهنده یا اپراتور خصوصی انسانی بر پایه دستور یا کنترل دولت عمل کرده باشد.
این تمایز صرفاً نظری نیست. معیار «کنترل مؤثر» که دیوان بینالمللی دادگستری در قضیه نیکاراگوئه (۱۹۸۶) و سپس در قضیه نسلزدایی بوسنی (۲۰۰۷) در ارتباط با ماده ۸ بهکار گرفت، ناظر به انتساب رفتار اشخاص یا گروههای انسانی خارج از ساختار رسمی دولت است؛ ازاینرو این معیار را نباید مستقیماً بر خروجی یک سامانه هوش مصنوعی اعمال کرد. ماده ۸ تنها زمانی موضوعیت مییابد که یک توسعهدهنده، پیمانکار یا ارائهدهنده خصوصی انسانی، در طراحی یا بهرهبرداری از سامانه، بر اساس دستور یا کنترل دولت عمل کرده باشد. معیار «کنترل کلی» که در رأی تادیچ (۱۹۹۹) دیوان کیفری بینالمللی برای یوگسلاوی سابق مطرح شد نیز در بستر مخاصمه مسلحانه توسعه یافته و دیوان بینالمللی دادگستری آن را بهعنوان جایگزین نپذیرفته است. دشواری اصلی در زمینه هوش مصنوعی، احراز زنجیره تصمیم انسانی، میزان نظارت نهادی، و قابلیت پیشبینی آسیب است؛ نه انتساب اراده مستقل به سامانه.
این ملاحظات درباره استثنای دستگاههای نظامی-امنیتی از شمول قانون (ماده ۱۲، بند پ) اهمیت ویژه مییابد: این استثنا به معنای آن است که قانون، سازوکارهای ارزیابی و نظارت خود را بر این حوزه اعمال نمیکند. با وجود استمرار مذاکرات گروه کارشناسان دولتی ذیل کنوانسیون سلاحهای متعارف خاص و فقدان توافق جامع بر تعریف کنترل انسانی معنادار، متن قانون هیچ معیار داخلی روشنی برای نسبت میان خودمختاری سامانه، نظارت انسانی، و مسئولیت در کاربردهای نظامی ارائه نمیدهد.
دادههای بخش عمومی و مسئله حاکمیت دیجیتال
نکتهای که کمتر در بررسیهای نخستین این قانون مورد توجه قرار گرفته، نحوه مواجهه آن با دادههای بخش عمومی است. ماده ۹ قانون، از «بازارگاه ملی هوش مصنوعی و کاروران» و «عرضه دادههای بخش عمومی» سخن میگوید و ماده ۶ به «اشتراکگذاری داده و امنیت رایانشی سامانهها» میپردازد. این مواد، در کنار هم، تصویری از یک نظام اداری-اقتصادی برای مدیریت داده ترسیم میکنند که هدف اصلی آن تسهیل دسترسی و مبادله است، نه تعیین چارچوب هنجاری روشن برای حدود این دسترسی.
از منظر حقوق بینالملل عمومی، این رویکرد را میتوان در پرتو مفهوم رو به رشد حاکمیت داده (data sovereignty) بررسی کرد؛ مفهومی که در ادبیات حقوقی اخیر، تنش میان کنترل دولتی بر جریان داده و الزامات ناشی از تعهدات حقوق بشری (بهویژه حق بر حریم خصوصی) را برجسته میکند. رویکردهای تطبیقی در این زمینه متنوع است: در حالی که برخی نظامها (مانند مقررات عمومی حفاظت از داده اتحادیه اروپا) چارچوب حمایتی فردمحور را مقدم میدانند، برخی دیگر (از جمله برخی مقررات چین درباره امنیت داده) رویکرد امنیتمحور و دولتمحور را در اولویت قرار میدهند. قانون ایران، بدون تصریح به الگوی حمایتمحور فردی یا الگوی دولتمحور و امنیتمحور، از حیث ساختار بیشتر بر تسهیل دسترسی، عرضه و اشتراکگذاری داده برای توسعه زیستبوم هوش مصنوعی تمرکز دارد. تضمینهای تفصیلی درباره مبنای قانونی پردازش، محدودیت هدف، تفکیک داده عمومی از داده شخصی و حساس، و نظارت مستقل در متن قانون دیده نمیشود؛ ازاینرو نمیتوان آن را بهطور قطعی ذیل الگوی GDPR یا الگوی امنیتمحور چین طبقهبندی کرد، هرچند تضمینهای فردمحور در مقایسه با اهداف توسعهای، در متن مادر کمرنگتر است.
غیاب سازوکار جبران فردی
محور دیگری که در ارزیابی این قانون از منظر حقوق بینالملل اهمیت مییابد، فقدان سازکار برای اعتراض فرد به تصمیم متخذه بر پایه یک سامانه هوش مصنوعی است. اسناد نرم بینالمللی، از جمله توصیهنامه اخلاق هوش مصنوعی یونسکو (۲۰۲۱)، بر ضرورت وجود سازوکارهای پاسخگویی و جبران مؤثر در برابر تصمیمات الگوریتمی تأکید میکنند. در سطح حقوق بشر الزامآور، ایران از سال ۱۳۵۴ به میثاق بینالمللی حقوق مدنی و سیاسی ملحق شده است؛ ماده ۱۷ این میثاق، حق بر حریم خصوصی را تضمین میکند، و ماده ۲ (بند ۳) این سند، دولتهای عضو را متعهد میکند تضمین کنند هر شخصی که حقوقش نقض شده، از یک مرجع مؤثر برای جبران برخوردار باشد. رویه کمیته حقوق بشر سازمان ملل متحد نیز بهتدریج در حال بسط این حق به حوزه پردازش داده و تصمیمگیری خودکار است، هرچند هنوز تفسیر رسمی و جامعی از کمیته در این خصوص منتشر نشده است.
باید توجه داشت که فقدان تصریح قانونی به اعتراض نسبت به تصمیم الگوریتمی، بهخودیخود نقض ماده ۲(۳) میثاق محسوب نمیشود؛ این ماده حق مستقلی به نام حق اعتراض به تصمیم الگوریتمی ایجاد نمیکند، بلکه ابزار جبران است که تنها هنگام اثبات نقض یک حق ماهوی دیگر از میثاق نظیر حریم خصوصی (ماده ۱۷)، منع تبعیض (ماده ۲۶)، یا در موارد مقتضی تضمینهای دادرسی منصفانه (ماده ۱۴) موضوعیت مییابد. با اینهمه، فقدان مسیر اعتراض، توضیحپذیری متناسب، و مرجع رسیدگی مشخص، میتواند ظرفیت نظام داخلی را برای ایفای همین تعهد جبران، در صورت وقوع نقض، تضعیف کند.
با مرور مواد دوازدهگانه قانون، هیچ مادهای بهطور مستقیم به حق شهروند برای اعتراض به تصمیم الگوریتمی، حق دسترسی به منطق تصمیم، یا ایجاد مرجع رسیدگی به شکایات فردی در این حوزه نمیپردازد. سازمان ملی هوش مصنوعی (ماده ۲) و مرکز ارزیابی و تأیید امنیت سامانهها (ماده ۷) هر دو نهادهایی با کارکرد اداری-فنی و نظارت کلان هستند، نه نهادهای رسیدگی به دادخواهی فردی. تدوین شاخصهای ارزیابی حکمرانی هوش مصنوعی (ماده ۳، بند خ) و آییننامههای اجرایی آتی میتوانند این خلأ را تا حدی جبران کنند؛ اما در وضعیت فعلی متن مصوب، چنین تضمینی وجود ندارد و بار اثبات همچنان بر دوش تفسیرهای آتی قضایی یا اداری باقی میماند.
جمعبندی
آنچه از مرور این دوازده ماده برمیآید، نه انکار جایگاه حقوق بینالملل است و نه التزامی صریح به آن؛ بلکه سکوتی است که خود باید موضوع تحلیل قرار گیرد. قانونگذار ایرانی، در مواجهه با فناوریای که بهطور بنیادین ماهیتی فرامرزی دارد، عمداً یا سهواً چارچوبی عمدتاً درونزا و مبتنی بر نهادسازی داخلی برگزیده است؛ رویکردی که ارگانسازی و تأمین مالی را بر تنظیمگری هنجاری اولویت میبخشد و مسئولیتهای حساستر انتساب رفتار دولت، حاکمیت داده، سازوکار جبران فردی را به آیندهای نامعلوم و آییننامههایی هنوز نانوشته حواله میدهد. این احاله را نباید صرفاً ضعف تقنینی خواند؛ به همان اندازه میتواند بازتاب انتخابی آگاهانه باشد: انتخاب دولتی که در شرایط تحریم و محدودیت همکاری بینالمللی، ترجیح میدهد نخست زیرساخت و صلاحیت داخلی را تثبیت کند و مواجهه با الزامات هنجاری بینالمللی را به مرحلهای بعدتر موکول سازد.
با اینهمه، تجربه نظامهای حقوقی دیگر نشان میدهد این توالی نخست ساختار، سپس هنجار همیشه بیهزینه نیست. آییننامههایی که قرار است ظرف سه تا شش ماه آینده منتشر شوند در غیاب پیوندی صریح و منسجم میان قانون داخلی و تعهدات بینالمللی موجود، و در فقدان مشارکت مؤثر در فرایندهای بینالمللی در حال شکلگیری، از همان آغاز با خلأ مرجعیت هنجاری روبهرو خواهند بود؛ چیزی که تدوین آنها را بهمراتب دشوارتر و رویه اجرایی آتی را بهمراتب آسیبپذیرتر در برابر تفاسیر متعارض میکند. پرسش راستین، بنابراین، این نیست که آیا این خلأها برطرف خواهند شد، بلکه این است که آیا نظام حقوقی ایران، در غیاب یک پیوند صریح و منسجم میان قانون داخلی و تعهدات بینالمللی موجود این حوزه، اساساً ابزار لازم برای پاسخگویی به این پرسشها را در اختیار دارد یا نه و اینکه آیا مشارکت فعالتر در نهادهای تنظیمگر غیرالزامآور بینالمللی میتواند، دستکم در کوتاهمدت، جایگزینی برای این خلأ باشد؟