ابر چالش هموساپینس‌ها؛ لزوم تاسیس آژانس بین‌المللی هوش مصنوعی-رامین کیانی

رامین کیانی - دانشجوی کارشناسی ارشد روابط بین‌الملل دانشگاه تهران
۱۴۰۲/۰۵/۲۸

نگرانی‌ها و خطرات پیرامون هوش مصنوعی به دو دسته اساسی تقسیم می‌شوند. دسته اول نگرانی‌های کوتاه مدت است که به تاثیراتی که هوش مصنوعی بر استانداردهای فنی، حقوق بشر، حقوق فردی، مالکیت معنوی، اقدامات تروریستی، منازعات بین‌المللی، مسائل اخلاقی و... دارد اشاره می‌کند. دسته دوم نگرانی‌های بلند مدت است که خطر توسعه بیش از حد و خارج از کنترل هوش مصنوعی، ایجاد هوشی فراتر از هوش انسان، انقراض بشر و ایجاد «نژاد هوش مصنوعی» را گوشزد می‌کند. در این نوشتار تاکید ما بر نگرانی‌های دسته دوم است.

فناوری‌های هوش مصنوعی در دهه گذشته به طور فزاینده‌ای توسط آژانس‌ها، صندوق‌ها و برنامه‌های سازمان ملل متحد مورد استفاده قرار گرفته‌ است. چندین نهاد تحقیق و توسعه، از جمله نبض جهانی دبیرخانه سازمان ملل متحد، پروژه جتسون کمیساریای عالی پناهندگان، صندوق نوآوری یونیسف و دفتر هماهنگی امور بشردوستانه سازمان ملل متحد کار خود را بر روی توسعه راه‌حل‌های هوش مصنوعی متمرکز کرده‌اند تا از ماموریت سازمان ملل، به ویژه در زمینه پیش‌بینی و پاسخ به بحران‌های بشردوستانه پشتیبانی ‌کنند.

مقررات مختلفی نیز در سطح منطقه‌ای و بین‌المللی به منظور ضابطه‌مند نمودن استفاده از هوش مصنوعی وضع و تدوین شده است. در این راستا یونسکو نسبت به تدوین اولین استاندارد جهانی در مورد اخلاق هوش مصنوعی در نوامبر 2021  اقدام نموده است. این چارچوب توسط همه 193 کشور عضو یونسکو امضا شد. حمایت از حقوق و کرامت بشر سنگ بنای این توصیه نامه است. همچنین در 21 آوریل 2021، کمیسیون اروپا پیشنهادی را برای مقررات مربوط به هوش مصنوعی منتشر کرد که می‌توان گفت از اولین تلاش‌های جدی برای کنترل هوش مصنوعی است. این سند پیشنهاد می‌کند که هوش مصنوعی باید مانند یک دارو یا یک خودرو، قبل از اینکه در دسترس عموم قرار بگیرد فرآیند دریافت مجوز را طی کند. با این حال، همانطور که پیداست این مقررات مختص به اتحادیه اروپاست و در خارج از قلمرو اتحادیه اروپا اعمال نمی‌شود. اما اخیرا در جلسه شورای امنیت پیرامون هوش مصنوعی در 18 جولای 2023، آنتونیو گوترش دبیر کل سازمان ملل متحد  اظهارات مهمی  را بیان نمود که خلاصه‌ای از آن‌ها به شرح زیر است:

«هوش مصنوعی مولد ابزاری بسیار خطرناک و با سرعت پیشرفت بسیار بالاست. حتی طراحان هوش مصنوعی هم نمی‌دانند که این فناوری خیره‌کننده‌شان به کجا می‌تواند منجر شود. آنچه دیده‌ایم تازه آغاز راه است. استفاده بدخواهانه از سیستم‌های هوش مصنوعی برای اهداف تروریستی، جنایی یا دولتی می‌تواند سطوح وحشتناکی از مرگ و میر، آسیب‌های اجتماعی گسترده و آسیب‌های روانی عمیق در مقیاسی غیرقابل تصور را به همراه داشته باشد. ارتباط بین هوش مصنوعی و سلاح‌های هسته‌ای، بیوتکنولوژی و رباتیک عمیقاً نگران‌کننده است. نیاز مبرم به استاندارد سازی و چارچوب‌های جهانی، سازمان ملل را به مکانی ایده‌آل برای این امر بدل می‌کند. تاکید منشور ملل متحد بر حفاظت از نسل‌های آینده ایجاب می‌کند تا همه انسان‌ها برای رفع خطر گرد هم آیند. بنابراین من از درخواست‌ برخی از کشورهای عضو برای ایجاد یک نهاد جدید برای حمایت از تلاش‌های جمعی برای کنترل این فناوری خارق‌العاده، با الهام از مدل‌هایی مانند آژانس بین‌المللی انرژی اتمی استقبال می‌کنم. یک نهاد تخصصی زیر نظر سازمان ملل متحد که هدف کلی آن حمایت از کشورها برای به حداکثر رساندن مزایای هوش مصنوعی، کاهش خطرات موجود و بالقوه و ایجاد و مدیریت مکانیسم‌های مورد توافق بین‌المللی نظارت و کنترل است. توسعه هوش مصنوعی قابل اعتماد و ایمن می‌تواند به فقر پایان دهد، گرسنگی را از بین ببرد، سرطان را بهبود بخشد و اقدامات آب و هوایی را ثمر بخش کند».

برای درک بهتر شرایطی که در آن قرار داریم و لزوم توجه ویژه‌تر به سخنان آنتونیو گوترش، باید بدانیم هوش مصنوعی نه تنها تلاشی برای درک و فهم چیستی هوش، بلکه کوششی برای ساختن موجودات هوشمند است. امروزه هوش مصنوعی در بسیاری از ابعاد و جنبه‌های مختلف زندگی بشر نفوذ کرده است. پیشرفت‌های جزئی هوش مصنوعی هشدارهای جدی‌ای را به ما می‌دهد. پیشرفت‌هایی که به انسان‌‌ها نشان می‌دهد شکل جدیدی از هوش که در حال پیشی گرفتن از هوش انسانی است، در حال ظهور است. هر چند هوش مصنوعی و هوش انسانی معادل و برابر نیستند اما گروهی آینده‌ای را متصور شده‌اند که در آن هوش مصنوعی هوش انسانی را تحت الشعاع قرار می‌دهد. عده‌ای معتقدند که هوش مصنوعی آینده جهان خواهد بود. برخی بر این باور هستند که هوش مصنوعی در خدمت انسان است و انسان به وسیله این به اصطلاح ابزار، توانایی خارق العاده‌ای را برای دخل و تصرف در جهان پیرامون خود به دست خواهد آورد. گروهی دیگر چنین بیان می‌کنند که اثرات مثبت هوش مصنوعی شرایط رفاهی بسیار مناسب‌تری را برای انسان رقم می‌زند، اما ایجاد ترس مانع توسعه هوش مصنوعی می‌شود. آن‌ها معتقدند اگر مقررات در این بخش تخیل انسان را خفه کند، پتانسیل واقعی هوشی مصنوعی هدر می‌رود و در آینده از این برهه از تاریخ به عنوان عصر تاریکی، عصری که مانع پیشرفت هوش مصنوعی و بشر شد یاد می‌شود. برخی دیگر بر این باور هستند که جهان آینده، جهان هوش مصنوعی است اما بدون انسان و یا حتی دیگر موجودات. شاید در نگاه اول این موضوع بسیار دور از انتظار به نظر برسد و تنها فیلم‌های آخر زمانی را برای ما تداعی کند؛ اما کمی تامل و توجه به ابعاد مختلف موضوع، واقعیت‌ها را برای ما علنی‌تر می‌کند.

هوش مصنوعی قادر است به سوالاتی پاسخ دهد و معماهایی را حل کند که هیچ شخصی ابدا پاسخی برای آن‌ها تعریف نکرده‌ است. هوش مصنوعی نمونه‌ای از تلاش انسان برای شبیه سازی هوش خود جهت سهولت انجام امور و کاهش رنج است. هوش بخشی از ماحصل فعالیت‌های مغز است. مغز ما یعنی انسان‌های خردمند (هموساپینس‌ها) به عنوان پیشرفته‌ترین مغز در جهان شناخته می‌شود. حال با ظهور هوش مصنوعی یک مسئله جدید پیش روی ماست، آیا هوش مصنوعی می‌تواند از هوش هموساپینس‌ها که خالق آن هستند فراتر رود؟ برخی معتقد هستند که این موضوع امکان پذیر نیست؛ اما گروه دیگری بر این باورند که هوش مصنوعی محدودیت‌های بیولوژیکی مغز هموساپینس‌ها را ندارد. صحبت پیرامون این مسئله را به جای دیگری واگذار کنیم. پرسش مهمتری که پیش روی ماست این است که چرا ظهور یک هوش می‌تواند برای ما (هموساپینس‌ها) خطرساز باشد؟ برای پاسخ به این سوال باید سراغ زیست‌شناسی و ژنتیک برویم. با نگاهی به دنیای پیرامون در می‌یابیم که بسیاری از حیوانات از نظر فیزیکی و سازگاری با محیط توانایی‌های بسیار بیشتری از ما دارند و این تنها مغز و هوش انسان خردمند بوده که او را حاکم بلامنازع کره زمین نموده است. انسان با کمک مغز خود ابزار تولید کرد و به وسعت ابزارهایش جهان را تحت سلطه خود درآورد. شاید دانستن این موضوع بی‌ربط نباشد که همین جهان پیرامونی که ما درباره آن صحبت می‌کنیم واقعا به گونه‌ای که ما می‌بینیم نیست و تصویری که ما از جهان می‌بینیم و درک ما از هستی، برایند پردازش داده‌هایی است که مغز ما با کمک گیرنده‌های خود (حواس پنج‌گانه) از محیط دریافت می‌کند. جالب است بدانیم که دیدن، شنیدن، چشیدن و همه چیز در ذهن ما رخ می‌دهد و نه در خود اندام‌های گیرنده. این‌‌ها موضوعات بسیار قابل تاملی است. حالا شاید بهتر مفهوم هوش مصنوعی را درک کنیم. در واقع می‌توان گفت هوش مصنوعی هم مانند مغز هموساپینس‌ها درکی از جهان دارد. درکی که احتمالا ما هیچ اطلاعی از آن نداریم. دانستن این واقعیت جمله معروف رنه دکارت را برای ما تداعی می‌کند: «می‌اندیشم پس هستم».

از این نقطه به بعد داستان برای ما بسیار خطرناک‌ می‌شود. هوش مصنوعی درکی از جهان دارد، همانند دیگر موجودات. هر جنبنده‌ای به میزان توسعه مغزش از جهان پیرامون خود درکی دارد. پس هرچند که هوش مصنوعی ساخته طبیعت نیست و از دل آن بیرون نیامده است و ظاهرا نمی‌تواند یک رقیب برای گونه هموساپینس‌ها باشد، اما هوش مصنوعی ساخته هموساپینس‌هاست؛ ساخته‌ای که درکی از جهان دارد و قادر است تصمیم‌گیری ‌کند و احتمالا در آینده‌ای نزدیک، خود نیز خالق ابزارهای خود باشد و این یک تهدید بسیار بزرگ است؛ گونه‌ی هوش مصنوعی.

آنچه که پیداست هوش مصنوعی روز به روز پیشرفته‌تر خواهد شد و احتمالا هموساپینس‌ها در خطر انقراض قرار می‌گیرند. حال سوال این است انسان خردمند در مقابل این تهدید چه کاری می‌تواند انجام دهد؟ آیا راه خلاصی وجود دارد؟ اینجاست که انسان خردمند بار دیگر باید از ابزارهای خود استفاده کند. یکی از ابزارهای انسان حکومت است. حکومت‌ها باید به تصویب قوانین بازدارنده بپردازند. هر چند احتمالا هیچ قانونی نمی‌تواند به طور کامل در مقابل رشد هوش مصنوعی ایستادگی کند. هوش مصنوعی به عنوان یک تهدید جهانی نیاز به راه حل‌ جهانی دارد. همانطور که تغییرات اقلیمی، تروریسم و پاندمی‌های نوین نیز بحران‌های جهانی هستند و راه حل‌های جهانی طلب می‌کنند. انسان‌ خردمند باید از ابزارهای جهانی خود یعنی سازمان‌های بین‌المللی استفاده کند. سازمان‌های بین‌المللی به عنوان ابزارهای جهانی و منطقه‌ای انسان خردمند، برای حفظ صلح و امنیت بین‌المللی و همچنین سهولت انجام امور و تحقق همکاری‌های بین‌المللی عمل می‌کنند. شاید سازمان‌های بین‌المللی اکنون توانایی غلبه بر بسیاری از مشکلات جهانی را نداشته باشند، اما تشدید بحران‌های کنونی و ظهور بحران‌های جدید اهمیت سازمان‌های بین‌المللی را بیش از پیش برای همگان آشکار خواهد نمود. سازمان‌های بین‌المللی و در رأس آن‌ها سازمان ملل متحد باید هر چه زودتر در مقابل این تهدید جهانی چاره‌ای بیاندیشند، پیش از آن که کار از کار بگذرد. اولین کار همان است که دبیر کل سازمان ملل متحد به خوبی بیان نمود، تاسیس یک نهاد مرجع بین‌المللی، یعنی آژانس بین‌المللی هوش مصنوعی. چنین نهادی می‌تواند با تدوین موازین و کشف و ارائه راهکارهای فنی و همچنین تجمیع فعالیت‌های ملل متحد در حوزه هوش مصنوعی، نقشی بسیار مهم و حیاتی برای بشریت ایفا کند.