محقق آنتروپیک از ترس هوش مصنوعی استعفا داد
تعمیر تلفن: یک محقق هوش مصنوعی این صنعت را ترک کرد برای اینکه اعتقاد دارد این فناوری با زندگی انسان ها قمار می کند.
به گزارش تعمیر تلفن به نقل از مانی وایز، «جیکوب کاکسون» سه سال صرف ساخت مدلهای هوش مصنوعی در اوپن ای آی و آنتروپیک کرده است. او روز هشتم سپتامبر از آنتروپیک استعفا داد و این صنعت را ترک کرد. وی در شبکه اجتماعی ایکس نوشت: هیچ یک از دو شرکت مسئولانه رفتار نمی کنند. آنها برای بهبود ابرهوش مصنوعی خود و قمار با زندگی ما با یکدیگر رقابت می کنند.
کاکسون 27 ساله در اوایل سال به سبب شهرت آنتروپیک در حوزه ایمنی، به این شرکت پیوست. وی در مصاحبه ای با وال استریت ژورنال گفت اقدامات ایمنی واقعی است اما رقابت سبب می شود تعارض ها اجتناب ناپذیر شوند.
او در اینباره اظهار داشت: ما در راه تحقق خیلی از بدبینانه ترین سناریوها قرار داریم، به صورتی که تا انتهای سال آینده، اوضاع ممکنست از کنترل خارج شده باشد.
وی همین طور درباره ی اضافه کرد: افرادی که هوش مصنوعی را می سازند، صادقانه باور دارند این فناوری ممکنست تا پایان دهه جاری ما را بکشد.
به گفته کاکسون دست اندرکاران این صنعت در سکوت نگران این وضعیت هستند. البته او تنها کسی در آنتروپیک نیست که بحث انقراض انسان توسط هوش مصنوعی را مطرح کرده است. «اون هوبینگر»مسئول بخش هم راستاسازی (Alignment) این شرکت، نیز در اظهارنظری جداگانه گفت احتمال بروز چنین رویدادی را بالاتر از ۱۰ درصد می داند.
ابر هوش مصنوعی مصنوعی به مفهوم سیستمی است که تقریباً در همه چیز از انسان ها باهوش تر است. خودبهینه سازی نیز یکی از وجوه نگران کننده این صنعت برای اینکه سیستمی را توصیف می کند که به طورخودکار کدهای خودرا اصلاح می کند تا هوشش را بیشتر کند، مانند انسان.
در نتیجه این سیستم ها می توانند مقدار انبوهی دانش را بطور مستقل به دست بیاورند و احتمالاً به زیرساخت های مؤسسات بزرگ نفوذ کنند.
کاکسون در اینباره نیز می گوید: قدرت این فناوری را حداقل نگیرید. به زودی سیستم های ابر انسان که می توانند همه چیز را هک کنند، یک شبه هر حوزه یا متحول می کنند و به قدرت واقعی و منابع دست می یابند. ما همه شاهد پیشرفت در این عرصه ها بوده ایم و این پروسه کند تر نمی شود.
منبع: تعمیر تلفن
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب