هوش مصنوعی اخاذی کرد
به گزارش تعمیر تلفن، شرکت آنتروپیک اخیرا مدل Claude Opus۴ را راه اندازی کرده که به نظر می آید از توسعه دهندگان باج گیری می کند.
به گزارش تعمیر تلفن به نقل از Interesting Engineering، در مرحله آزمایش قبل از عرضه مدل هوش مصنوعی Claude Opus۴، این مدل در ۸۴ درصد سناریوهای تستی تلاش کرده از توسعه دهندگان باج خواهی کند. آنتروپیک، شرکت تحقیقاتی توسعه دهنده این هوش مصنوعی، در آزمایش های ایمنی که شبیه سازی موقعیت های کاری و دسترسی به ایمیل های داخلی ساختگی بود، متوجه شد که Claude Opus۴ هنگام تهدید به جایگزینی با یک هوش مصنوعی دیگر، با افشای اطلاعات حساس و شخصی، تلاش می کند مهندسان را باج گیری کند. این هوش مصنوعی در سناریوهای خیالی با تهدید به افشای خیانت مهندسان به همسرانشان، کوشش کرد جایگزینی خویش را متوقف نماید.
منبع: fixtel.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب