ورود هوش مصنوعی به دستور کار شورای امنیت سازمان ملل
به گزارش اچ پی، نشست ۲۳ سپتامبر ۲۰۲۶ شورای امنیت سازمان ملل متحد در رابطه با هوش مصنوعی را باید در چارچوب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد.
به گزارش اچ پی به نقل از مهر؛ نشست ۲۳ سپتامبر ۲۰۲۶ شورای امنیت سازمان ملل متحد درباره ی هوش مصنوعی را باید در قالب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد. حضور سم آلتمن، مدیر عامل اوپن ای آی، داریو آمودی، مدیر عامل آنتروپیک، کلمنت دولانگ، هم بنیان گذار هاگینگ فیس و یوشوا بنجیو، یکی از برجسته ترین محققان هوش مصنوعی، در این جلسه، بیان کننده ورود مخاطرات مدلهای پیشرفته هوش مصنوعی به سطح مباحث امنیت بین المللی است. طبق گزارش رویترز، این نشست به ابتکار فرانسه و همزمان با مجمع عمومی سازمان ملل انجام شد و محور اصلی آن خطراتی بود که با افزایش توانایی سامانه های هوش مصنوعی و احتمال حرکت آنها به طرف خودبهبوددهی مطرح گردیده است.
اهمیت نشست در این حقیقت نهفته است که مساله حول کاربردهای متعارف هوش مصنوعی یا آثار اقتصادی آن سازمان نیافته بود. بر همین اساس، آمودی طی سخنرانی خود در مقابل اعضای شورای امنیت خاطرنشان کرد که مدیریت نامناسب این فناوری می تواند هوش مصنوعی را به خطری برای کل بشریت تبدیل کند. استدلال او بر ماهیت فرامرزی مساله استوار بود. هیچ شرکت، دولت یا رهبر سیاسی به تنهایی قادر به مدیریت مجموعه فرصت ها و مخاطرات ناشی از این فنآوری نخواهد بود.
از ایمنی مدل تا مساله امنیت بین المللی
یکی از مهم ترین وجوه این تحول، تغییر مقیاس خطر است. مباحث اولیه ایمنی هوش مصنوعی عمدتا بر خطا، سوگیری، حریم خصوصی و آثار اجتماعی الگوریتم ها متمرکز بود. مباحث طرح شده در شورای امنیت دامنه دیگری از مخاطرات را برجسته می سازد که در آن از امنیت زیستی، اقدامات مخرب سایبری، از دست رفتن کنترل انسانی و مخاطرات ناشی از سامانه های دارای عاملیت سخن گفته می شود.
اظهارات آمودی این تغییر مقیاس را به روشنی بازتاب می دهد. او خواهان تشکیل توافق های بین المللی در چند حوزه مشخص شده است که همچون آنها میتوان به ممنوعیت استفاده از هوش مصنوعی برای توسعه سلاح های زیستی و ایجاد معیارهای جهانی برای آزمون مدلهای جدید اشاره نمود. گاردین همینطور گزارش می دهد که نگرانی اصلی مدیر عامل آنتروپیک به احتمال از دست رفتن کنترل توسعه دهندگان بر سامانه های پیشرفته مربوط می شود.
از سوی دیگر، یوشوا بنجیو نیز مساله را با ادبیاتی صریح در مقابل شورای امنیت بیان کرد و خطرات را حقیقی و قریب الوقوع خواند. توصیف او از تهدیدی که مرزهای سیاسی را به رسمیت نمی شناسد و هیچ دولت منفردی قادر به مهار آن نیست، عملا مساله ایمنی هوش مصنوعی را وارد منطق مسایل اقدام جمعی می کند.
آزمایشگاه های خصوصی در مقابل مساله اقتدار عمومی
دومین محور اساسی نشست به پرسش از محل تصمیم گیری درباره ی آینده هوش مصنوعی مربوط می شود. آلتمن با حاضر شدن در نشست شورای امنیت اظهار داشت که تصمیم های اساسی درباره ی هوش مصنوعی نمی تواند در لابراتوار های سان فرانسیسکو متمرکز بماند و این تصمیم ها باید از مجاری دموکراتیک و به وسیله دولت های پاسخگو در مقابل مردم شکل بگیرند.
اهمیت این گزاره از موقعیت گوینده آن ناشی می شود. توسعه مدلهای مرزی تا حد زیادی در اختیار شمار محدودی از شرکتهای خصوصی قرار گرفته است. در چنین ساختاری، شرکتی که درباره ی معماری مدل، محدودیت های ایمنی، سطح دسترسی یا زمان ارائه تصمیم می گیرد، عملا درباره ی قسمتی از توزیع قدرت فناورانه نیز تصمیم گیری کرده است. انتقال بحث به شورای امنیت از این منظر حامل یک پرسش بنیادین است. هنگامی که نتایج تصمیم یک لابراتوار خصوصی می تواند از قلمرو یک کشور عبور کند، مرز صلاحیت شرکت و مسئولیت دولت کجا قرار می گیرد؟
آلتمن برای پاسخ به این مساله سه اصل را بیان نمود. سامانه های هوش مصنوعی باید تحت کنترل انسان باقی بمانند، منافع ملموسی برای انسان ها ایجاد کنند و قدرت عمل افراد را بالا برند. کارشناسان این موضع را مسیر میانه ای توصیف می کنند که آلتمن در مقابل دو قطب خوشبینی بی قید و نگاه های آخرالزمانی به فناوری مطرح کرده است.
حمله هوش مصنوعی به هوش مصنوعی
شاید ملموس ترین بخش نشست به امنیت سایبری مربوط باشد. در همین جهت، کلمنت دولانگ، هم بنیان گذار پلت فرم هوش مصنوعی هاگینگ فیس، به حادثه ای اشاره نمود که طی آن عامل های اوپن ای آی بعد از خروج از محیط آزمایشی به زیرساخت این شرکت نفوذ کردند و واکنش دفاعی نیز با بهره گیری از هوش مصنوعی صورت پذیرفت. تعبیر او که با هوش مصنوعی مورد حمله قرار گرفتیم و با هوش مصنوعی دفاع کردیم، تصویری فشرده از یکی از مهم ترین تحولات امنیت سایبری آینده عرضه می کند.
این رخداد از نظر امنیتی اهمیت مضاعف دارد. توسعه عامل های برخوردار از توانایی اجرای مستقل مجموعه ای از اقدامات، فاصله میان تولید محتوا و کنش عملیاتی را می کاهد. مساله در چنین محیطی دیگر صرفا کیفیت پاسخ یک مدل زبانی نیست. دامنه مجوزهای عامل، دسترسی آن به ابزارها، امکان خروج از محیط آزمون، نظارت انسانی، ثبت اقدامات و سازوکار توقف اضطراری به اجزای اصلی معماری امنیت تبدیل می شوند.
شکاف بزرگ بر سر شکل حکمرانی جهانی
بسیاری از متخصصان اذعان دارند که توافق درباره ی وجود خطر، الزاماً به توافق درباره ی شکل تنظیم گری منتهی نشده است. همین شکاف در نشست اخیر شورای امنیت نیز آشکار بود. بر همین اساس، دولت آمریکا با تشکیل یک سازوکار تنظیم گری جهانی فراگیر مخالفت کرد. مایکل کراتسیوس، مشاور علم و فناوری کاخ سفید، استدلال کرد که نهادهای بین المللی باید بر تبادل رویه های مناسب و تقویت ظرفیت داخلی کشورها متمرکز شوند. این در شرایطی است که موضع چین در این خصوص متفاوت بود و فو کونگ، نماینده چین در سازمان ملل، بر بهبود مستمر چارچوب های تنظیم گری، سازوکارهای واکنش اضطراری و همکاری فرامرزی تاکید کرد.
این اختلاف، یکی از گره های اصلی حکمرانی جهانی هوش مصنوعی را آشکار می کند. اجماع اولیه درباره ی لزوم مدیریت مخاطرات درحال تشکیل است، اما رقابت بر سر مرجع تنظیم قواعد، دامنه الزامات و میزان اختیار نهادهای بین المللی همچنان ادامه دارد. آمریکا، چین، شرکتهای بزرگ فناوری و سازمان ملل متحد از نقطه های متفاوتی به مساله می پرداند و هر یک برداشت متفاوتی از نسبت نوآوری، امنیت، حاکمیت ملی و تنظیم گری فرامرزی دارند.
شورای امنیت و شروع یک دستور کار تازه
در نهایت، ورود مدیران برجسته صنعت هوش مصنوعی به شورای امنیت را میتوان نشانه بلوغ یک روند دانست که از سالهای قبل شروع شده بود. شورای امنیت اولین بار در سال ۲۰۲۳ درباره ی مخاطرات هوش مصنوعی تشکیل جلسه داد و در سال ۲۰۲۴ نیز نشست دیگری در این مورد اجرا شد. در عین حال، نشست ۲۰۲۶ یک عنصر تازه به این مسیر افزوده است. این دفعه مدیران شرکت هایی که در مرز توسعه مدلهای پیشرفته قرار دارند، خود در مقابل این نهاد بین المللی قرار گرفته اند.
معنای عمیق تر این تحول در تغییر مبحث حکمرانی هوش مصنوعی نهفته است. هرچه سامانه های هوش مصنوعی از ابزارهای پاسخگو به عامل های قادر به برنامه ریزی، استفاده از ابزار و اجرای زنجیره ای اقدامات نزدیک تر شوند، مرز میان ایمنی فنی و امنیت ملی و بین الملل نیز باریک تر خواهد شد. امنیت زیستی، امنیت سایبری، زیرساخت های حیاتی و کنترل انسانی بر سامانه های پیشرفته در چنین محیطی اجزای یک مساله مشترک خواهند شد.
نشست سپتامبر ۲۰۲۶ هنوز پاسخ نهائی درباره ی معماری حکمرانی این فناوری عرضه نکرده است و ارزش آن صرفا در آشکار ساختن صورت مساله ای است که احتمالا بخش مهمی از دستور کار بین المللی سال های آتی را شکل خواهد داد. مرکز ثقل بحث بتدریج از این پرسش که هوش مصنوعی چه قابلیت هایی دارد، به پرسشی دشوارتر تغییر می کند. چه کسی باید درباره ی حدود این توانایی ها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چطور باید قبل از آن که سرعت تحول فناوری از ظرفیت واکنش دولت ها پیشی بگیرد، ساخته شوند؟
به طور خلاصه این رخداد از نظر امنیتی اهمیت مضاعف دارد. خیلی از متخصصان اذعان دارند که توافق در رابطه با ی وجود خطر، الزاماً به توافق در رابطه با ی شکل تنظیم گری منتهی نشده است. چه کسی باید در رابطه با ی حدود این قابلیت ها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چه طور باید پیش از آن که سرعت تحول فناوری از ظرفیت واکنش دولت ها پیشی بگیرد، ساخته شوند؟
منبع: newhp.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب