آشنایی با انتروپیک شرکتی که می خواهد هوش مصنوعی را قدرتمندتر و ایمن تر کند
تعمیر تلفن: رقابت بر سر آینده هوش مصنوعی دیگر فقط به چند چت بات شناخته شده محدود نمی گردد. پشت هر پاسخ متنی، تولید کد، تحلیل یک سند یا انجام یک کار پیچیده، شرکت هایی قرار دارند که هم زمان درحال ساخت مدلهای قدرتمندتر و تعریف قواعد جدیدی جهت استفاده از این تکنولوژی اند. یکی از مهم ترین این بازیگران آنتروپیک (Anthropic) است؛ شرکتی که نامش با خانواده مدلهای Claude گره خورده و از ابتدا کوشیده ایمنی و قابلیت کنترل هوش مصنوعی را در ماموریت اصلی خود قرار دهد.
به گزارش تعمیر تلفن به نقل از خبر آنلاین، آنتروپیک خویش را شرکتی پژوهشی در حوزه هوش مصنوعی و ایمنی آن معرفی می کند. هدف اعلام شده این شرکت، ساخت سیستم هایی قابل اعتماد، قابل تفسیر و قابل هدایت است. آنتروپیک در سال ۲۰۲۱ شکل گرفت و داریو آمودی و دانیلا آمودی، خواهر و برادر، از بنیان گذاران آن هستند. این شرکت از همان سال نخست، جذب سرمایه برای توسعه سیستم های عمومی تر، قابل اعتمادتر و قابل هدایت هوش مصنوعی را شروع کرد.
اهمیت آنتروپیک فقط به ساخت رقیبی برای ChatGPT محدود نمی گردد. این شرکت در سالیان فعالیتش کوشیده موضوع هایی مانند هم راستایی، تفسیرپذیری، ارزیابی ریسک و کنترل رفتار مدلها را همزمان با توسعه قابلیت های آنها دنبال کند. به همین دلیل، شناخت آنتروپیک و مدلهای Claude برای درک بازار امروز هوش مصنوعی اهمیت دارد.
Claude؛ محصولی که آنتروپیک را به مخاطب عمومی رساند Claude نام خانواده مدلهای هوش مصنوعی و دستیارهای گفت وگومحور آنتروپیک است. کاربران می توانند از آن برای نوشتن و ویرایش متن، خلاصه سازی، تحلیل اطلاعات، برنامه نویسی، پژوهش، کار با اسناد و انجام طیفی از وظایف فکری استفاده نمایند.
Claude کم کم از یک دستیار متنی ساده فراتر رفته و به خانواده ای از مدلها با کاربردها و توانایی های متفاوت تبدیل گشته است. توسعه این خانواده در سال ۲۰۲۶ هم ادامه یافته است. بر مبنای اطلاعات رسمی انتروپیک، Claude Opus 5.5 در سپتامبر ۲۰۲۶ به عنوان مدل پیشرو معرفی گردید و Claude Sonnet 5.5 هم در ۲۸ سپتامبر ارائه شد. Sonnet 5.5 برای کارهای روزمره، رفع خطا، تولید سند و انجام وظایف مشخص با سرعت بیشتر و هزینه کمتر طراحی شده است.
آنتروپیک در کنار مدلهای عمومی، بر قابلیت هایی مانند برنامه نویسی، انجام کارهای طولانی مدت، تحلیل چندوجهی و کاربردهای سازمانی هم تمرکز دارد. بنابراین، بهتر است Claude را یک «خانواده محصول» بدانیم، نه فقط یک چت بات.
بااین حال، توانایی بالا به مفهوم بی خطابودن نیست. مستندات رسمی آنتروپیک درباره ی مدلهای جدید هم ارزیابی هایی از خطاهای حقیقی، همچون تولید اطلاعات نادرست، ارایه می کنند. بنابراین، پاسخ Claude مانند پاسخ هر مدل هوش مصنوعی دیگر نیازمند بررسی و راستی آزمایی است.
Constitutional AI چیست؟ ایده ای که امضای پژوهشی انتروپیک شد
یکی از مفاهیمی که با نام آنتروپیک شناخته می شود، Constitutional AI است. در اینجا منظور از «Constitutional»، قانون حقوقی نیست؛ بلکه مجموعه ای از اصول است که برای هدایت رفتار مدل به کار می رود.
انتروپیک در پژوهش خود درباره ی Constitutional AI توضیح داده است که می توان بخشی از فرآیند آموزش رفتار ایمن مدل را با کمک بازخورد تولیدشده توسط هوش مصنوعی انجام داد. در این رویکرد، مدل پاسخ هایش را بر مبنای اصول مشخص نقد و بازنویسی می کند و سپس از ارزیابی های تولیدشده برای آموزش ترجیحات استفاده می شود.
ایده را می توان چنین خلاصه کرد: بجای آنکه انسان ها برای تک تک پاسخ ها تعیین کنند «این پاسخ بهتر است یا آن پاسخ»، مجموعه ای از اصول تعریف می شود و مدل بر مبنای آن اصول در فرآیند ارزیابی و اصلاح پاسخ مشارکت می کند.
البته این تکنیک به مفهوم حذف کامل نقش انسان یا حل شدن مساله ایمنی نیست. خود انتروپیک هم توضیح داده است که انتخاب اصول، ارزش ها و معیارهایی که در قانون اساسی مدل قرار می گیرند، تصمیم هایی انسانی هستند. این شرکت در نسخه جدید قانون اساسی Claude هم تصریح کرده که رفتار حقیقی مدل ممکنست همیشه با آرمان های تعریف شده در آن منطبق نباشد.
این نکته نشان میدهد که ایمنی در هوش مصنوعی خصوصیت ای مطلق و تضمین شده نیست؛ بلکه فرایندی پیوسته برای ارزیابی، اصلاح و مدیریت ریسک است.
چرا انتروپیک بر ایمنی و تفسیرپذیری تاکید می کند؟
از نگاه انتروپیک، هرچه مدلهای هوش مصنوعی توانمندتر شوند، فقط فرصتهای آنها افزایش نمی یابد؛ دامنه ریسک های احتمالی هم گسترده تر می شود. به همین دلیل، این شرکت بخشی از پژوهش های خویش را به هم راستایی، تفسیرپذیری، اقتصاد هوش مصنوعی، آثار اجتماعی و ارزیابی های امنیتی مختص کرده است.
تفسیرپذیری یا Interpretability یکی از حوزه های مهم این مطالعه هاست. مساله ساده به نظر می آید، اما پاسخ به آن دشوار است: وقتی یک مدل زبانی پاسخی تولید می کند، تا چه اندازه می توان فهمید درون شبکه عصبی چه اتفاقی افتاده که مدل به آن پاسخ رسیده است؟
این پرسش برای آینده مدلهای قدرتمند اهمیت زیادی دارد. اگر توسعه دهندگان بتوانند بهتر بفهمند مدل چه طور اطلاعات و الگوها را پردازش می کند، شاید بتوانند خطاها و رفتارهای ناخواسته را دقیق تر شناسایی کنند.
انتروپیک برای مدلهای خود اسناد ارزیابی و شفافیت هم منتشر می کند. در این اسناد، قابلیت ها، برخی ارزیابی های ایمنی، محدودیت ها و تدابیر محافظتی مدلها توضیح داده می شود. این مستندات منبعی مهم جهت بررسی ادعاهای فنی شرکت اند؛ هرچند ارزیابی های انتشار یافته از جانب خود شرکت جای ارزیابی مستقل و دانشگاهی را نمی گیرند.
انتروپیک در مقابل OpenAI و Google DeepMind؛ رقابتی فراتر از چت بات ها
رقابت انتروپیک با OpenAI و Google DeepMind را نباید فقط مسابقه ای برای ساخت چت بات بهتر دانست. رقابت اصلی بر سر ساخت مدلهای عمومی تر، توانمندتر و ارزان تر، توسعه عامل های هوش مصنوعی، ابزارهای برنامه نویسی، کاربردهای سازمانی و زیرساخت محاسباتی است.
Claude در بازار عمومی در کنار ChatGPT و Gemini قرار گرفته است، اما بخش مهمی از فعالیت تجاری انتروپیک هم بر توسعه دهندگان و سازمان ها متمرکز است. همکاریهای ابری و عرضه مدلها از راه زیرساخت های بزرگ به این شرکت امکان می دهد Claude را فراتر از یک وبسایت گفتگو، وارد جریان های کاری سازمان ها کند.
در چنین رقابتی، معیار موفقیت فقط رتبه در آزمون های سنجش مدل نیست. قیمت، سرعت، کیفیت استدلال، توانایی کار با ابزارها، امنیت، حریم خصوصی، قابلیت اطمینان و تجربه کاربری هم در تصمیم مشتریان نقش دارند.
انتروپیک در سال ۲۰۲۶ با معرفی نسل های جدید Claude کوشیده است سهم بیشتری از بازار حرفه ای و سازمانی به دست آورد. این شرکت درعین حال می گوید رشد تجاری می تواند سرمایه گذاری بیشتر در پژوهش های ایمنی و زیرساخت را ممکن کند.
اخبار و تحولات مهم انتروپیک در سال ۲۰۲۶
سال ۲۰۲۶ برای انتروپیک سالی پرشتاب بوده است. این شرکت در ماه مه از جذب ۶۵ میلیارد دلار سرمایه در دور Series H و ارزش گذاری بعد از سرمایه گذاری ۹۶۵ میلیارد دلاری اطلاع داد. انتروپیک اعلام نمود منابع این دور برای توسعه ظرفیت محاسباتی، توسعه محصولات و ادامه پژوهش های ایمنی و تفسیرپذیری به کار گرفته می شود.
در سپتامبر هم خانواده Claude 5.5 گسترش یافت. Claude Opus 5.5 در ۲۲ سپتامبر معرفی گردید و چند روز بعد، در ۲۸ سپتامبر، Claude Sonnet 5.5 ارائه شد. انتروپیک در معرفی این مدلها بر توانایی انجام کارهای پیچیده، برنامه نویسی، سرعت، هزینه و انجام وظایف طولانی مدت تاکید کرده است.
در همین دوره، مرکز خبری انتروپیک مجموعه ای از خبرهای در رابطه با کاربرد Claude در شرکت ها، پژوهش علمی، ایمنی و رویارویی با سوءاستفاده از مدلهای هوش مصنوعی منتشر نموده است. این تحولات نشان می دهند که Claude کم کم از محصولی برای گفتگو فراتر می رود و به بخشی از زیرساخت کاری سازمان ها و پروژه های تخصصی تبدیل می شود.
Claude برای کاربران عادی چه کاربردی دارد؟
ممکن است نام انتروپیک در نگاه نخست به شرکتی تخصصی و دور از زندگی روزمره اشاره کند؛ اما Claude می تواند در خیلی از کارهای معمول هم به کار بیاید.
نویسنده می تواند برای ایده پردازی و ویرایش از آن کمک بگیرد؛ دانشجو می تواند مفهومی دشوار را به زبان ساده توضیح دهد یا یادداشت هایش را سامان دهد؛ برنامه نویس می تواند از مدل برای تحلیل کد یا بررسی خطاها کمک بگیرد؛ و کاربر اداری هم می تواند از آن برای خلاصه کردن اسناد یا آماده سازی پیشنویس استفاده نماید.
بااین حال، استفاده حرفه ای از Claude به یک اصل ساده وابسته است: هرچه پیامد خطا جدی تر باشد، راستی آزمایی اهمیت بیشتری دارد. در موضوعات پزشکی، حقوقی، مالی و خبری، نباید پاسخ مدل را بدون بررسی در منابع معتبر پذیرفت.
هوش مصنوعی می تواند سرعت کار را افزایش دهد، اما مسئولیت نهائی تصمیم همچنان با انسان است.
چشم انداز انتروپیک؛ آیا ایمنی می تواند مزیت رقابتی باشد؟
انتروپیک کوشیده است هویت خویش را بر تلفیقی از «توانمندی» و «ایمنی» بنا کند. این ترکیب در سالیان آینده می تواند به مزیتی تجاری تبدیل شود؛ خصوصاً در بازار سازمانی، جایی که شرکت ها هنگام استفاده از مدلهای قدرتمند، علاوه بر کیفیت پاسخ، به امنیت، کنترل، ارزیابی ریسک و سیاستهای استفاده هم توجه می کنند.
از سوی دیگر، تاکید بر ایمنی به تنهایی ضمانت نمی کند که مدل همیشه درست یا بی خطر عمل کند. مدلهای زبانی همچنان ممکنست گرفتار توهم، خطای استدلال یا رفتارهای پیش بینی نشده شوند. مستندات رسمی مدلهای جدید Claude هم برخی خطاها و محدودیت ها را گزارش می کنند.
بنابراین، آینده انتروپیک احیانا در نقطه تلاقی سه رقابت شکل می گیرد: رقابت برای ساخت مدلهای توانمندتر، رقابت برای جذب محصولات و مشتریان بیشتر و رقابت برای توسعه شیوه های قابل اتکاتر جهت کنترل و ارزیابی سیستم های هوش مصنوعی.
جمع بندی
انتروپیک در مدت کوتاهی از شرکتی پژوهشی و نوپا به یکی از بازیگران اصلی صنعت هوش مصنوعی تبدیل گشته است. Claude مهم ترین محصول این شرکت است، اما داستان انتروپیک فقط داستان یک چت بات رقیب نیست. Constitutional AI، پژوهش درباره ی تفسیرپذیری، ارزیابی ریسک و تاکید بر ساخت سیستم های قابل اعتماد، بخش مهمی از هویت این شرکت را شکل داده اند.
در سال ۲۰۲۶ هم سرعت توسعه انتروپیک بالا رفته و نسل های جدید Claude در کنار سرمایه گذاری های بزرگ و گسترش همکاریهای سازمانی معرفی شده اند. بااین حال، همانند دیگر شرکتهای فعال در این عرصه، فاصله میان «توانمندترشدن» و «قابل اعتمادشدن» همچنان یکی از مهم ترین پرسش های صنعت هوش مصنوعی است.
57
منبع: fixtel.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب