۴۰۰ محقق خواهان ایجاد نهاد نظارتی بین المللی بر هوش مصنوعی شدند
اچ پی: گروه کثیری از پژوهشگران همچون دو پیشگام هوش مصنوعی خواهان ایجاد یک نهاد بین المللی برای نظارت و مهار این فناوری شدند.
به گزارش اچ پی به نقل از رویترز، حدود ۴۰۰ محقق همچون جفری هینتون و یوشوا بنجیو از پیشگامان هوش مصنوعی، خواهان تشکیل یک نهاد بین المللی شدند تا بر استانداردهای مهار و الزامات گزارش دهی حوادث در ارتباط با سامانه های پیشرفته هوش مصنوعی دارای قابلیت های سایبری نظارت کند.
نهاد پیشنهادی استانداردهای مهاری برای کل صنعت ایجاد و یک مخزن از رویدادهای مهم سایبری که بگفته پژوهشگران بتدریج عمومی می شود را نگهداری می کنند.
محققان در نامه ای سرگشاده اعلام نمودند مدلهای هوش مصنوعی پیشرو باید در ابتدا بطور ایزوله از شبکه های خارجی ارایه شود و تحت نظارت مستقل قرار گیرد. آنها استدلال می کنند تعهدات داوطلبانه این صنعت کافی نیستند.
پیشنهاد تاسیس چنین نهادی یک ماه بعد از آن ارایه می شود که آنتروپیک، اوپن ای آی، گوگل، xAI، و انویدیا یک توافقنامه کاخ سفید را امضا کردند و به اجرای اقدامات ایمنی داوطلبانه بدون هیچ گونه مکانیسم اجرائی رسمی متعهد شد.
به گفته پژوهشگران قبل از ارایه این نامه، زنجیره اتفاقاتی رخداده که ضعف هایی در شیوه آزمایش ومهار سیستم های هوش مصنوعی آشکار شده است، همچون مواردی که در آن مدلهای هوش مصنوعی محیط های آزمایشی را دور زدند و سیستم های خارجی را به خطر انداختند.
امضا کنندگان این نامه از ۳۴ کشور جهان هستند و باور دارند نهادهایی که مدل هایی قابلیت سایبری را توسعه می دهند یا آزمایش می کنند باید به سرعت استانداردهای مهار با سطح اطمینان بالا را به کار گیرند و از طرفی دولت ها باید در راستای یک رژیم نظارتی رسمی تر حرکت کنند.
سیاستگذاران بطور روزافزون درباره ی شیوه نظارت بر مدلهای هوش مصنوعی استدلالاتی ارایه می کنند. بگفته هنا ویرکوون مدیر فناوری اتحادیه اروپا «قانون هوش مصنوعی» (AI Act) برای مرتفع ساختن ریسک سیستم های هوش مصنوعی خطرناک کافی است.
این درحالی است که دولت آمریکا طی روزهای گذشته محدودیت اعمال شده بر موسسه امنیت هوش مصنوعی انگلیس برای دسترسی به لابراتوار های هوش مصنوعی آمریکایی جهت تست ایمنی مدلها را لغو نمود.
منبع: newhp.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب