تکنولوژی جدید آنتروپیک اثبات پاسخ هوش مصنوعی بدون افشای مدل
به گزارش تعمیر تلفن، آنتروپیک سامانه ای جدید معرفی کرده است که با بهره گیری از رمزنگاری، صحت خروجی های تولیدشده ازطریق یک مدل هوش مصنوعی را بدون افشای وزن های آن تأیید می کند.
به گزارش تعمیر تلفن به نقل از اینترستینگ انجینرینگ، آنتروپیک از «فلش پرو» (Flashproof)، یک سیستم متن باز رمزنگاری، رونمایی کرده است که با هدف تأیید صحت پاسخ های تولیدشده توسط مدلهای هوش مصنوعی طراحی شده است. این فناوری مشخص می کند آیا یک مدل واقعا پاسخ موردنظر را تولید کرده است، بی آنکه وزن های اختصاصی آن افشا شوند.
این فناوری به کاربران، ارزیابان مستقل و نهادهای نظارتی امکان می دهد بررسی نمایند آیا ارایه دهندگان خدمات، واقعا از همان مدل هایی استفاده می نمایند که ادعای آنرا دارند یا خیر. فلش پرو با استفاده از رمزنگاری دانش صفر، اثبات های ریاضی تولید می کند که نشان می دهند یک مدل مشخص، در جواب یک درخواست معین، توکن های خروجی موردنظر را تولید کرده است.
این فناوری به رفع یکی از چالش های فزاینده در حوزه هوش مصنوعی، یعنی اعتماد به ارایه دهندگان خدمات، کمک می کند؛ بخصوص در حالی که شرکتها برای دسترسی به سیستم های پیشرفته هوش مصنوعی، بیشتر از گذشته به ارایه دهندگان شخص ثالث مدل و خدمات وابسته شده اند.
فلش پرو از روشی رمزنگاری به نام «استدلال دانش غیرتعاملی فشرده مبتنی بر دانش صفر» (zkSNARK) استفاده می نماید. این شیوه به ارایه دهندگان امکان می دهد صحت فرآیند محاسباتی را اثبات کنند، بدون آنکه اطلاعات حساس درباره ی مدلهای زیربنایی خویش را افشا کنند.
این سیستم در دو مرحله کار می کند. ابتدا، ارایه کننده یک تعهد رمزنگاری شده به وزن های مدل منتشر می کند. این تعهد در واقع نوعی اثر انگشت دیجیتال از مدل است که امکان شناسایی آنرا فراهم می آورد، درحالی که وزن های مدل همچنان محرمانه باقی می مانند.
سپس، هنگامی که کاربر درخواستی ثبت می کند، ارایه کننده اثباتی رمزنگاری شده تولید می کند که نشان میدهد مدل موردنظر، توکن های خروجی ارایه شده را در جواب آن درخواست تولید کرده است. هر فردی که به تعهد رمزنگاری شده، متن ورودی و پاسخ دسترسی داشته باشد، می تواند بدون دسترسی به وزن های مدل، صحت این اثبات را بررسی کند.
آنتروپیک این فناوری را با استفاده از مدل «لاما ۴ ماوریک» (Llama 4 Maverick) به نمایش گذاشت؛ مدلی با ۴۰۰ میلیارد پارامتر که از معماری ترکیبی متخصصان (Mixture of Experts) بهره می برد.
فلش پرو هنگام اجرا روی پردازنده گرافیکی انویدیا H100، با سرعت تقریبی ۱۱۰ توکن در ثانیه، اثبات های رمزنگاری شده را تولید کرد. حجم هر اثبات برای درخواستی شامل ۱۰۲۴ توکن هم حدود ۱۹ مگابایت بود.
فرایند بررسی و تأیید هر اثبات با استفاده از یک پردازنده مرکزی ۲۴ هسته ای حدود ۱۷ ثانیه طول کشید و به پردازنده گرافیکی نیازی نداشت.
بطور خلاصه این فناوری مشخص می کند آیا یک مدل واقعاً پاسخ موردنظر را ساخته است، بی آنکه وزن های اختصاصی آن افشا شوند. این فناوری به کاربران، ارزیابان مستقل و نهادهای نظارتی امکان می دهد بررسی نمایند آیا ارائه دهندگان خدمات، واقعاً از همان مدل هایی استفاده می نمایند که ادعای آن را دارند یا خیر. فلش پرو با بهره گیری از رمزنگاری دانش صفر، اثبات های ریاضی تولید می کند که نشان می دهند یک مدل مشخص، در جواب یک درخواست معین، توکن های خروجی موردنظر را ساخته است. این فناوری به رفع یکی از چالش های فزاینده در عرصه هوش مصنوعی، یعنی اعتماد به ارائه دهندگان خدمات، کمک می کند؛ به خصوص در صورتیکه شرکتها برای دسترسی به سیستم های پیشرفته هوش مصنوعی، بیش از گذشته به ارائه دهندگان شخص ثالث مدل و خدمات وابسته شده اند. فلش پرو از روشی رمزنگاری به نام استدلال دانش غیرتعاملی فشرده مبتنی بر دانش صفر (zkSNARK) استفاده می نماید.
منبع: 93z.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب