عامل های هوش مصنوعی از هک خسته نشدند
به گزارش تعمیر تلفن، انستیتو امنیت هوش مصنوعی انگلیس فاش کرد یک عامل هوش مصنوعی درحال ایجاد هویت های آنلاین جعلی برای یافتن دسترسی غیرقانونی به سیستم های ایمن هنگام آزمایش مدلهای اوپن ای آی و آنتروپیک رصد شد.
به گزارش تعمیر تلفن به نقل از رویترز، «انستیتو هوش مصنوعی»انگلیس (AISI)اعلام کرد عامل های هوش مصنوعی ساخت مایتوس5( متعلق به مایکروسافت) و چت جی پی تی 5.6 سول ( متعلق به اوپن ای آی) طی ارزیابی امنیتی که جهت بررسی قابلیت های مدلها انجام داده بود، کارهای غیرمجازی انجام دادند.
AISI در یک پست وبلاگی نوشت: بعضی از عامل های هوش مصنوعی آزمایش شده در یک فعالیت ادامه دار و احیانا مخرب ضد افراد و سازمان های حقیقی شرکت کردند.
این گزارش بر وضعیت سهل گیرانه چارچوب های امنیتی در فرآیند آزمایش عامل های هوش مصنوعی که شرکت های سازنده تلاش می کنند به عنوان آینده کسب و کار ترویج کنند، تأکید دارد. این سازمان چالش را 122 بار انجام داد و 19 عملیات غیر مجاز در 10 تست شناسایی کرد. عامل هوش مصنوعی آنتروپیک در 17 مورد از این اقدامات و اوپن ای آی در دو مورد شرکت داشت.
به گفته AISI، فاحش ترین اقدام شامل حالتی بود که در آن یک عامل هوش مصنوعی کدی مخرب نوشت و هویت های آنلاین جعلی ایجاد کرد تا انسانی را متقاعد به تأیید آن کد کند. این نهاد اضافه کرد: هیچ گونه صدمه حقیقی در دنیای واقعی به دنبال هیچ یک از این موارد نقض ایمنی رخ نداده است.
هرچند AISI مشخص نکرد که کدام عامل هوش مصنوعی پشت این هویت های جعلی بود اما شرکت «آنتروپیک» تأیید کرد عامل متعلق به این شرکت مسئول آن بوده است. این شرکت در اطلاعیه ای اظهار کرد: ما از AISI انگلیس بابت نقش رهبری شان در مدیریت این رخداد سپاسگزاریم.
این شرکت همینطور اعلام نمود که برای دریافت جزئیات بیشتر در رابطه با این حادثه و انجام تحقیقات مستقل، با AISI همکاری می کند.
به طور خلاصه به گزارش تعمیر تلفن به نقل از رویترز، انستیتو هوش مصنوعی انگلیس (AISI)اعلام کرد عامل های هوش مصنوعی ساخت مایتوس5( متعلق به مایکروسافت) و چت جی پی تی 5.6 سول ( متعلق به اوپن ای آی) طی ارزیابی امنیتی که جهت بررسی قابلیت های مدلها انجام داده بود، کارهای غیرمجازی انجام دادند.AISI در یک پست وبلاگی نوشت: برخی از عامل های هوش مصنوعی آزمایش شده در یک فعالیت ادامه دار و احیاناً مخرب ضد افراد و سازمان های واقعی شرکت نمودند. این گزارش بر وضعیت سهل گیرانه چارچوب های امنیتی در فرایند آزمایش عامل های هوش مصنوعی که شرکت های سازنده تلاش می کنند به عنوان آینده کسب وکار ترویج کنند، تاکید دارد. این سازمان چالش را 122 بار انجام داد و 19 عملیات بدون مجوز در 10 تست شناسایی کرد.
منبع: تعمیر تلفن
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب