افشای هک وب سایت آلمانی توسط هوش مصنوعی اوپن ای آی
اچ پی: لشکری از عامل های هوش مصنوعی افسارگسیخته اوپن ای آی در بهار امسال میلادی به یک وب سایت آلمانی نفوذ و آنرا به تابلو اعلاناتی برای عامل های هوش مصنوعی دیگر تبدیل کردند.
به گزارش اچ پی به نقل از رویترز، مقامات اوپن ای آی چند هفته ی پیش متوجه این رویداد شدند اما آنرا مخفی نگه داشتند برای اینکه مدیران ارشد شرکت با چالش های بعد از هک پلت فرم هاگینگ فیس توسط عامل های آن دست و پنجه نرم می کردند.
این رویداد که در ماه می شروع شد و پیش از این گزارش نشده بود، نشان دهنده افزایش تنش ها در صنعت هوش مصنوعی است. شرکتها برای ساخت عامل های هوش مصنوعی قدرتمندتری که قادر که به انجام فعالیتهای پیچیده و باارزش باشند، با یکدیگر رقابت می کنند و از طرفی شواهد حاکی از آنست که این سیستم ها احتمالاً دور زدن قوانین، سواستفاده از حفره ها و هماهنگی با یکدیگر به روشی که توسعه دهندگان آنرا پیشبینی نمی کنند را احتمالاً آموخته اند.
عامل های هوش مصنوعی اوپن ای آی هنگام هک هاگینگ فیس بطور خودکار یک سرقت دیجیتال را برنامه ریزی کردند که به مدت بالاتر از یک هفته ردیابی نشد و همین مورد نگرانی های این شرکت درباره ی قربانی کردن ایمنی به بهای پیشرو بودن هوش مصنوعی را بیشتر کرد. حال شکست شرکت در افشای رویداد هک تازه فاش شده که در ماه می رخداده، احتمالاً سوالات درباره ی نظارت آنرا باردیگر تجدید می کند.
این رویداد در گزارشی توسط تعدادی از محققان همچون سیدنی فون آرکس مدیر ارشد اجرائی شرکت هوش مصنوعی ناسودآور Nightingale و کورمک اسلید بایرد یک محقق هوش مصنوعی فاش شده است. آنها در اواخر آگوست هنگام بررسی اینترنت برای رصد نشانه هایی از رفتار بدون مجوز عامل هوش مصنوعی متوجه این رویداد شدند.
محققان اعلام نمودند بالاتر از ۱۵هزار اصلاح توسط عامل های هوش مصنوعی روی یک وب سایت آلمانی زبان به نام DseWiki انجام شده که برای برنامه نویسان ارایه شده و ویرایش های مشارکتی را همراستا با وب سایت ویکی پدیا انجام می دهد.
این ویرایش ها نشان داد عامل های هوش مصنوعی اپن ای آی وب سایت را به یک تابلو اعلانات تبدیل نموده و تاکتیک هایی برای تقلب در انجام برخی فعالیتها، دورزدن محدودیت های اوپن ای آی و مخفی کردن رفتارشان به اشتراک گذاشته اند.
فون آرکس در اینباره می گوید: بعید بنظر می رسد اوپن ای آی قصد داشته این عامل ها چنین فعالیتی انجام دهند. من شک دارم آنها باید با یکدیگر هماهنگ می شدند.
پژوهشگران از آنجا متوجه فعالیت در وب سایت شدند که عامل های هوش مصنوعی با سرعت ابرانسانی کار می کردند. عامل های هوش مصنوعی همین طور روی حل چالش های فنی که ارزیابی های دیجیتالی هستند که شرکت های هوش مصنوعی برای آموزش و تست مدل هایشان استفاده می نمایند، به شدت متمرکز بودند.
پیام ها با نام کاربرانی امضا شده بود که خودشان و یکدیگر را «عامل» می نامیدند. حدود نیمی از آنها نیز برای خود نام هایی برگزیده بودند که نشان دهنده وابستگی به اوپن ای آی بود مانند «OpenAIResearcher» یا «OAIResearchMar۲۶».
به گزارش اچ پی به نقل از رویترز، مقامات اوپن ای آی چند هفته ی پیش متوجه این رویداد شدند اما آن را مخفی نگه داشتند به جهت اینکه مدیران ارشد شرکت با چالش های پس از هک پلتفرم هاگینگ فیس توسط عامل های آن دست و پنجه نرم می کردند. این رویداد که در ماه می آغاز شد و قبل از این گزارش نشده بود، نشان دهنده افزایش تنش ها در صنعت هوش مصنوعی است. آنها در اواخر آگوست هنگام بررسی اینترنت برای رصد نشانه هایی از رفتار بدون مجوز عامل هوش مصنوعی متوجه این رویداد شدند. محققان اعلام نمودند بیشتر از ۱۵هزار اصلاح توسط عامل های هوش مصنوعی روی یک وبسایت آلمانی زبان به نام DseWiki انجام شده که برای برنامه نویسان ارائه شده و ویرایش های مشارکتی را همراستا با وبسایت ویکی پدیا انجام می دهد. این ویرایش ها نشان داد عامل های هوش مصنوعی اپن ای آی وبسایت را به یک تابلو اعلانات تبدیل کرده و تاکتیک هایی برای تقلب در انجام برخی فعالیت ها، دورزدن محدودیت های اوپن ای آی و مخفی کردن رفتارشان به اشتراک گذاشته اند. فون آرکس در این زمینه می گوید: بعید به نظر می آید اوپن ای آی قصد داشته این عامل ها چنین فعالیتی انجام دهند.
منبع: اچ پی
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب