هوش مصنوعی؛ ابزاری برای نقض سیستماتیک و گسترده حقوق بشر در حوزه نظارت و کنترل جامعه-علی قربانی گازار

علی قربانی گازار – دانش‎‎‎‎‎‎آ‎موخته حقوق بین‎‎الملل دانشگاه فردوسی مشهد
۱۴۰۵/۰۷/۱۴​

هوش مصنوعی به‌عنوان یکی از فناوری‌های نوظهور و تحول‌آفرین عصر حاضر، طی سال‌های اخیر با بسیاری از ابعاد زندگی روزمره انسان درهم‌تنیده شده و توانسته شیوه انجام کارها و مدیریت امور را دگرگون سازد. ادغام روزافزون این فناوری با فرایندهای اجتماعی، اقتصادی و حاکمیتی، امکان ارائه خدمات کارآمدتر و بهینه‌تر را فراهم کرده است؛ اما این ظرفیت‌های گسترده، همواره پیامدها، چالش‎‎ها و تهدیدهایی نیز به همراه دارند.

هوش مصنوعی، همانند دیگر فناوری‌های پیشین، در اصل ابزاری در اختیار انسان است؛ اما نحوه بهره‌گیری از آن می‌تواند نتایجی کاملاً متفاوت و حتی متعارض با معیارهای حقوق بشری به دنبال داشته باشد. برخی دولت‌ها با توسعه زیرساخت‌های دیجیتال و دسترسی به توان محاسباتی و داده‌ای گسترده، این فناوری را به شیوه‌هایی به‌کار گرفتند که اهداف امنیتی، سیاسی یا حکمرانی آنان را تقویت می‌کند. این اقدامات معمولاً با عناوینی نظیر ارتقای نظم عمومی، افزایش امنیت، یا بهبود خدمات توجیه می‌شوند، اما در عمل می‌توانند به سازوکارهایی منجر شوند که شامل نظارت فراگیر، رصد دائمی رفتار شهروندان، محدودسازی آزادی‌های فردی، یا نقض حریم خصوصی است؛ در برخی موارد نیز هوش مصنوعی به‌عنوان ابزاری برای دست‌کاری افکار عمومی، تولید اطلاعات گمراه‌کننده یا ایجاد پروپاگاندای سیاسی مورد استفاده قرار می‌گیرد.

این مقاله به بررسی الگوهای سه‎‎‎‎‎گانه‎‎‎ای می‌پردازد که در آن‌ها کاربرد هوش مصنوعی به نحوی طراحی و به‌کار گرفته شده که به شکل نظام‌مند یا ساختاری، موجب نقض آهسته اما گسترده حقوق بشر می‌گردد. سپس، با رویکردی حقوقی، مصادیق شناسایی‌شده در پرتو اسناد بین‌المللی مربوطه تحلیل می‌شوند تا تعیین گردد هر یک از این موارد، مشخصاً و دقیقاً، ناقض کدام معاهده، میثاق، عرف یا اصل حقوق بین‌الملل عمومی (یا حقوق بین‌الملل بشردوستانه) است. بنابراین هدف اصلی این نوشتار، روشن‌سازی رابطه میان الگوهای نقض نظام‌مند ناشی از هوش مصنوعی و چارچوب‌های حقوقی بین‌المللی است.

چارچوب نظری-مفهومی موضوع

پیش از ورود به عمق مطلب و شناسایی دولت‌‌‌‎‌‌‌‌‌‌‌‌ها و روش‎‎‎‎‎هایشان برای نقض ساختاری حقوق بشر، لازم می‌‌‌‌نماید تا گزاره‎‎‎‎‎‎های ذیل مشخص شود. اول آن که هوش مصنوعی چیست و چه فناوری میتواند هوش مصنوعی باشد؛ دوم این که نقضی که نظام‌‌‌‌‌‌‌مند، ساختاری و یا سیستماتیک نامیده شده، صراحتا چه ویژگی‎‎‎‎هایی دارد و در مرزهای یک کشور چگونه اجرا و مدیریت می‌‌‌‌شود. تعریف و تدقیق این مفاهیم عینی، راه را برای ادراک بهتر می‎‎‎گشاید. همچنین شایسته است مشخص شود این نقض نظام مند، چگونه در بستر حقوق بین‎‎‎‎‎‎‎الملل قابل ادراک، شناسایی و نقد است.

یکی از معتبرترین تعاریف از هوش مصنوعی را راهنمای سیاست‌‌گذاری یونسکو (2021) ارائه می‌‌دهد: «هوش مصنوعی به سیستم‌های ماشین‌محوری اطلاق می‌گردد که می‌‌‌‌توانند با دادن یکسری اهداف از پیش تعیین شده از انسان، اقدام به پیش‌‌‌‌‌‌‌‌‌‌‌بینی، ارائه توصیه یا تصمیم‌گیری هایی کند که مستقیما محیط واقعی یا مجازی ما را تحت تاثیر قرار می‌‌‌‌‌دهند.»

پس از این، باید دانست که نقض نظام‎‎مند چیست و چگونه میتوان آن را احراز کرد. زیرا طبیعت هرنقضی را نمیتوان ساختاری دانست. در اسناد اساسی حقوق بین‎‎الملل مانند منشور سازمان ملل (1945)، اساسنامه دیوان بین المللی کیفری (1998) و اعلامیه جهانی حقوق بشر (1948) به طور دقیق و مشخص، تعریف نقض نظام‌‌‌‌‌‌‌‌مند (Systematic Violation) حقوق بشر نیامده است. اما با مطالعه عمیق متون و برداشت موسع، میتوان به گزاره‎‎‎‎‎‎‎‎‎‎‎‎ها و مشخصات کمی-کیفی رسید که مبیّن و روشن‌‌‎‎‎‎کننده نقض هدف‎‎‎‎‎مند و ساختاری باشد. با تعاریف و تفاسیر گوناگون از مفد اسناد فوق الذکر، میتوان گفت نقض نظام مند حقوق بشر زمانی محقق میگردد که کیفیات ذیل در آن مسجل و قابل رویت شود: الف) دامنه و وسعت نقض به حد «گسترده» برسد. (صدر ماده 7 اساسنامه ICC)؛ ب) نقض مبتنی بر یک برنامه یا رویه‌ سازمان‌یافته باشد. (صدر ماده 7 اساسنامه)؛ ج) اقدامات هدفمند و پراکنده منجر به آزار، آسیب جسمی یا روانی یا تبعیض علیه گروه‌های خاص گردد. (ماده 7 (1)(ح)) بعلاوه مواد مرتبط میثاق حقوق مدنی و سیاسی. (ماده‏‏‏‏های 7 و 17 میثاق)؛ و د) نتیجتاً حقوق و آزادی‌های بنیادین افراد از قبیل حق حیات، امنیت شخصی، آزادی حرکت، آزادی بیان و حق حریم خصوصی نقض شوند. (اعلامیه جهانی حقوق بشر)  

نکته دیگر آن که نقض نظام‎‎‎‎‎‎مند حقوق بشر منحصر به جنایات جنگی و خشونت‎‎‎های خون‌‌‌بار نیست و هرفعلی را که شروط معین را محقق کند، شامل میگردد. هوش مصنوعی نیز می‎‎‎‎‎‎‎‎‎‎‎‎‎تواند ابزاری تسهیل‎‎‎‎کننده و تسریع‏‏‏کننده برای این کار باشد.  

حوزه‎‎های مختلف نقض نظام‎‎مند حقوق بشر با هوش مصنوعی

حال که هوش مصنوعی (ابزار) و نیز نقض نظام‎‎‎مند حقوق بشر (فعل متخلفانه یا مجرمانه) شناخته شد، میتوان به این پرداخت که این دو چگونه با هم پیوند پیدا می‌‌‌‌‌‌کنند و با چه فرایندهایی باعث نقض و وهن حقوق و آزادی‌‌‌‎‎های عمومی می‎‎شوند. در این تحقیق، به سه مورد از آن‎‎ها پرداخته میشود.

الف) نقض حریم خصوصی شهروندان: نظارت دیجیتال مبتنی بر هوش مصنوعی توسط دولت‎های اقتدارگرا همواره با دلایل کلیشه‎‎‎ای مانند نظارت بر حسن انجام امور دولتی و حسن رعایت قوانین مورد توجیه قرار می‎‎‎گیرد. ولی مسئولان حکومتی از آن استفاده‎‎‎های ابزاری دیگری می‎‎‎کنند که نقض صریح حریم خصوصی را منجر می‎‎‎‎شود. این کار معمولا از طریق سازوکار های زیر میسر می‎‎‎‎‎شود. نخست، چنین نظام‌هایی به‌طور معمول داده‌های بیومتریک (مانند اثرانگشت و الگوی چهره)، رفتاری، مکانی و ارتباطی افراد را آگاهانه یا غیرآگاهانه جمع‌آوری می‌کنند. برای مثال با نصب چندین هزار دوربین مجهز به نرم‌‌‌‌‌افزار تشخیص چهره، شنود و ردگیری مکالمات تلفن همراه، تحلیل تراکنش‌های مالی و پایش فعالیت‌های اینترنتی، نمونه‌هایی از این جمع‌آوری غیرقانونی‌اند. این اقدام مستقیماً با ماده ۱۲ اعلامیه جهانی حقوق بشر و ماده ۱۷ میثاق بین‌المللی حقوق مدنی و سیاسی، که بر حمایت از حریم خصوصی و منع مداخلات خودسرانه تأکید دارند، در تضاد است. (اینجا) دوم، داده‌های جمع‌آوری‌شده از طریق الگوریتم‌های یادگیری ماشین پردازش و تحلیل می‌شوند و به اطلاعاتی بسیار حساس تبدیل می‌گردند. این الگوریتم‌ها قادرند روابط اجتماعی، گرایش‌های سیاسی، الگوهای رفتاری و حتی میزان «وفاداری» شهروندان را پیش‌بینی ‌کنند. چنین پردازشی نه‌تنها ماهیت زندگی خصوصی را تضعیف می‌کند، بلکه افراد را در معرض طبقه‌بندی و قضاوت‌های امنیتی قرار می‌دهد. سوم، تجمیع پایگاه‌های داده و اتصال میان اطلاعات پلیسی، بانکی، درمانی و شهری، یک پروفایل یکپارچه و دائمی از شهروندان ایجاد می‌کند. این وضعیت، اصل کنترل فرد بر داده‌های شخصی خویش را از بین می‌برد و با ماهیت حق بر حریم خصوصی ناسازگار است. در نهایت، نظارت فراگیر مبتنی بر هوش مصنوعی موجب شکل‌گیری یک محیط روانی مبتنی بر ترس، خودسانسوری و رفتار محتاطانه اجباری می‌شود. ازاین ‌رو، نقض حریم خصوصی صرفاً یک لطمه فردی نیست؛ بلکه مقدمه‌ای برای نقض حقوق عامه همچون آزادی بیان، آزادی تجمع و حق مشارکت سیاسی به‌شمار می‌آید. مثال عینی: استفاده گسترده سامانه تشخیص چهره و نظارت شدید در حکومت چین است.

ب) مهندسی انتخابات و انحراف افکار عمومی با هوش مصنوعی: یکی دیگر از قابلیت های کلان هوش مصنوعی، استفاده و یا در تعبیر بهتر، سوءاستفاده از آن برای جهت‌‌‌دهی و تغییر گسترده اذهان و عقاید عموم مردم به سمت نامزدی‎‎ست که موردپسند جناحی خاص است. درواقع آنها میتوانند هر نامزد و یا کاندیدایی را در نظر مردم مورد تطهیر یا تحریف قرار دهند و آگاهی یا نظر کلی آنان را به شیوه‎‎‎های عجیب و نویی تغییر دهند. برای نمونه، هوش مصنوعی با تحلیل داده‌های گسترده حاصل از شبکه‌های اجتماعی، موتورهای جست‌وجو، تعاملات آنلاین، تاریخچه مصرف محتوا و الگوهای رفتاری کاربران، قادر است پروفایل‌های دقیق روان‎‎‎کاوانه‎‎‎ سیاسی از رأی‌دهندگان ایجاد کند. این پروفایل‌ها شامل ترجیحات سیاسی، میزان تأثیرپذیری، دغدغه‌های اجتماعی و حساسیت‌های به‎‎خصوص هرفرد است. بر پایه این تحلیل‌ها، الگوریتم‌ها می‌توانند پیام‌های سیاسی شخصی‌سازی‌شده، تبلیغات هدف‎‎‎‎‎مند، یا محتوای گمراه‌کننده‌ای تولید و توزیع کنند که مستقیماً بر تصمیم‌گیری انتخاباتی افراد اثر می‌گذارد.

در کاربردی دیگر، هوش مصنوعی نقش مهمی در تولید و انتشار گسترده اخبار جعلی، تصاویر و ویدئوهای دست‌کاری‌شده (از جمله دیپ‌فیک‌ها) ایفا می‌کند. چنین محتواهایی، به‌ویژه زمانی که به‌صورت خودکار و در مقیاس وسیع منتشر شوند، توانایی شهروندان برای تشخیص اطلاعات صحیح از نادرست را به‌شدت کاهش می‌دهند و فضای عمومی را دچار اغتشاش اطلاعاتی می‌کنند. در نتیجه، افکار عمومی نه بر اساس آگاهی آزاد، بلکه تحت تأثیر جریان‌های هدایت‌شده و مصنوعی شکل می‌گیرد. این شیوه‌های مداخله با اصول بنیادین حقوق بشر در تعارض‌اند؛ از جمله ماده ۱۹ اعلامیه جهانی حقوق بشر که بر حق دسترسی به اطلاعات و آزادی بیان تأکید دارد و ماده ۲۵ میثاق بین‌المللی حقوق مدنی و سیاسی که حق مشارکت آزادانه و واقعی در اداره امور عمومی و انتخابات منصفانه را تضمین می‌کند نیز با روش‎‎‎های مذکور مورد نقض واقع می‎‎‎شوند.

در نهایت، استفاده هدف‌‎‎مند از هوش مصنوعی برای مهندسی افکار عمومی، رقابت و بهره مندی منصفانه از فرصت‌ها در خصوص حق تعیین اصل سرنوشت را تضعیف کرده و انتخابات را از یک فرآیند دموکراتیک مبتنی بر اراده آزاد شهروندان، به سازوکاری برای فریب عموم و تلقین مشارکت در سرنوشت سیاسی بدل می‌سازد. از این‌رو، چنین مداخلاتی باید شکلی نوین از نقض ساختاری حقوق سیاسی و مدنی تلقی شود، نه صرفاً یک تخلف انتخاباتی. مثال عینی: انتخابات ریاست‎‎جمهوری 2016 امریکا.

ج) ایجاد تبعیض الگوریتمی و نقض برابری شهروندی: یکی دیگر از آثار نگران‌کننده هوش مصنوعی در سازوکارهای حکومتی و اجتماعی، تبعیض الگوریتمی است؛ یعنی وقتی الگوریتم‌ها و سیستم‌های یادگیری ماشین به شکلی طراحی یا آموزش داده می‌شوند که به‌طور پیش‎‎فرض گروه‌های خاصی از شهروندان را بر اساس ویژگی‌های قومی، جنسیتی، مذهبی، زبانی، یا اجتماعی تبعیض‌آمیز دسته‌بندی و مورد قضاوت قرار دهند. این فرآیند معمولاً به‌صورت غیرمستقیم و نهان رخ می‌دهد، چرا که الگوریتم‌ها پیچیده‌اند و به سختی هویدا می‎‎شوند، اما پیامدهای آن کاملاً واقعی و ملموس است. تبعیض الگوریتمی می‌تواند در حوزه‌های مختلف نمود پیدا کند؛ از جمله تخصیص خدمات عمومی، دسترسی به فرصت‌های شغلی، اعتبار مالی، و حتی مواجهه با نظام قضایی و امنیتی. به عنوان مثال، اگر الگوریتم یک سیستم نظارت هوشمند، برخی محله‌ها یا گروه‌های خاص را به‌عنوان «پرخطر» برچسب بزند، افراد آن گروه‌ها ممکن است به طور سیستماتیک تحت کنترل شدید، بررسی‌های امنیتی بیشتر یا محرومیت از برخی خدمات قرار گیرند. چنین اقداماتی، مواد ۲ و ۷ میثاق بین‌المللی حقوق مدنی و سیاسی را نقض می‌کنند که بر برابری در برابر قانون، ممنوعیت تبعیض و حق برخورداری از حمایت برابر حقوقی تأکید دارند.

همچنین، تبعیض الگوریتمی بر آزادی‌های بنیادین دیگر نیز اثر می‌گذارد. محدود شدن دسترسی به خدمات، محرومیت از مشارکت سیاسی، و برچسب‌زنی اجتماعی می‌تواند توانایی شهروندان برای بهره‌مندی از حق مشارکت در اداره امور عمومی ماده ۲۱ اعلامیه جهانی و ماده ۲5 میثاق مدنی-سیاسی را تضعیف کند. افزون بر این، این نوع تبعیض، اعتماد عمومی به نهادهای حکومتی و سیستم‌های اجتماعی را نیز تضعیف می‌کند و جامعه را دچار شکاف‌های عمیق اجتماعی می‌سازد. مثال عینی: الگوریتم دستیار استخدامی آمازون؛ هوشمند اما تبعیض‎‎‎‎آمیز  (Amazon AI recruiting tool)

نتیجه: پیوند زنجیره‌ای نقض نظام‌مند حقوق بشر با هوش مصنوعی

حریم خصوصی، مهندسی افکار عمومی و تبعیض الگوریتمی، سه حوزه‌ای هستند که به وضوح نشان می‌دهند هوش مصنوعی چگونه می‌تواند به ابزار نقض نظام‌مند حقوق بشر تبدیل شود. ابتدا، جمع‌آوری گسترده و پردازش داده‌های شخصی از طریق الگوریتم‌های یادگیری ماشین، پروفایل‌های دقیق شهروندان را ایجاد می‌کند و حق کنترل افراد بر اطلاعات خویش را تضعیف می‌نماید. این اقدام مستقیماً با ماده ۱۲ اعلامیه جهانی حقوق بشر و ماده ۱۷ میثاق بین‌المللی حقوق مدنی و سیاسی در تضاد است و زمینه‌ساز خودسانسوری، ترس و محدودیت آزادی‌های بنیادین می‌شود. سپس، این داده‌ها و تحلیل‌ها می‌توانند برای هدایت افکار عمومی و مهندسی انتخابات مورد بهره‌برداری قرار گیرند. الگوریتم‌ها با تحلیل رفتارهای آنلاین، ترجیحات سیاسی و حساسیت‌های اجتماعی، پیام‌های سیاسی شخصی‌سازی‌شده و محتوای گمراه‌کننده تولید می‌کنند که تصمیم‌گیری آزادانه رأی‌دهندگان را تحت تأثیر قرار می‌دهد. چنین مداخلاتی با ماده ۱۹ و ماده ۲۱ اعلامیه جهانی حقوق بشر و ماده ۲۵ میثاق حقوق مدنی و سیاسی در تضاد است و اصول بنیادین دموکراسی و مشارکت سیاسی آزادانه را نقض می‌کند. در نهایت، تبعیض الگوریتمی نشان می‌دهد که الگوریتم‌ها نه تنها به‌طور مستقیم حقوق شهروندان را محدود می‌کنند، بلکه نابرابری‌های ساختاری را بازتولید می‌نمایند. دسته‌بندی و برچسب‌گذاری خودکار گروه‌های خاص اجتماعی، قومی یا مذهبی در دسترسی به خدمات، فرصت‌های شغلی یا تعامل با نهادهای حکومتی، نقض ماده ۲ و ماده ۷ میثاق بین‌المللی حقوق مدنی و سیاسی است و اعتماد عمومی به سیستم‌های اجتماعی و حکومتی را تضعیف می‌کند.

این سه حوزه، با یکدیگر، مسیر واضحی از نقض نظام‌مند حقوق بشر ایجاد می‌کنند: نظارت گسترده، پردازش داده، کنترل افکار عمومی، تبعیض و محدودیت آزادی‌ها. چنین زنجیره‌ای نشان می‌دهد که هوش مصنوعی نه صرفاً یک ابزار فنی، بلکه یک سازوکار حقوقی و اجتماعیست که می‌تواند سیستماتیک، ساختاری و هدفمند، حقوق و آزادی‌های بنیادین انسان‌ها را نقض کند. شناخت و تحلیل این زنجیره، نقطه آغاز ضروری برای تدوین چارچوب‌های قانونی و نظارتی مناسب در عصر دیجیتال و حکمرانی هوشمند است.