بحران اعتبار علمی پژوهش های دانشگاهی در عصر تولید دانش ماشینی
تعمیر تلفن: گسترش استفاده از هوش مصنوعی در تحقیقات دانشگاهی، شیوه دسترسی به منابع، پردازش اطلاعات و تولید محتوای علمی را دگرگون کرده است.
به گزارش تعمیر تلفن به نقل از مهر؛ با این وجود، افزایش توانایی مدلهای زبانی در عرضه پاسخ های منسجم و مستدل، مساله تازه ای را در نظام پژوهش پدید آورده است. چطور می توان میان اطلاعات معتبر علمی و محتوایی که صرفا از ظاهری علمی برخوردار است، تمایز قائل شد؟
از گسترش استفاده تا مساله اعتبار علمی
نفوذ ابزارهای هوش مصنوعی مولد در کارهای علمی و دانشگاهی، رابطه پژوهشگر با اطلاعات را وارد مرحله تازه ای کرده است. برمبنای مطالعه سال ۲۰۲۶ مرکز تحقیقات پیو (Pew Research Center)، نزدیک به ۲۵ درصد بزرگسالان آمریکایی بصورت روزانه از چت بات های هوش مصنوعی استفاده می نمایند. این میزان از فراگیری نشان میدهد که سیستم های هوشمند به یکی از ابزارهای متداول دسترسی به اطلاعات تبدیل گشته اند و آثار آن در محیط های آموزشی و پژوهشی هم قابل مشاهده می باشد.
با این حال، افزایش استفاده از این تکنولوژی با پرسش هایی جدی درباره ی قابلیت اعتماد به اطلاعات تولیدشده همراه شده است. در گزارش دیگری که متن مبنا به آن استناد می کند، سهم پاسخ های دارای خطا در ارزیابی بعضی از چت بات های رایگان به پرسش های خبری، ۴۸ درصد اعلام شده است. باآنکه این یافته به حوزه پاسخ گویی درمورد اخبار مربوط است و قابلیت تعمیم مستقیم به تمامی کاربردهای پژوهشی را ندارد، از مساله ای بنیادین حکایت می کند. بر همین اساس، توانایی تولید پاسخ های قانع کننده، لزوماً با توانایی عرضه اطلاعات صحیح و مستند همراه نیست.
اهمیت این مساله در پژوهش های دانشگاهی دوچندان می شود. چونکه اعتبار نتایج علمی به صحت داده ها، اصالت منابع، دقت استنادها و قابلیت بازنگری پروسه استدلال وابسته است. در چنین شرایطی، بهره برداری مؤثر از هوش مصنوعی مستلزم شناخت تفاوت ابزارها، ارزیابی انتقادی پاسخ ها و حفظ استقلال علمی پژوهشگر است.
چرا همه مدلهای هوش مصنوعی کارکرد یکسانی ندارند؟
یکی از اولین ملاحظات در استفاده دانشگاهی از هوش مصنوعی، تناسب ابزار انتخاب شده با ماهیت فعالیت پژوهشی است. سیستم های موجود از حیث معماری فنی، داده های آموزشی، منابع اطلاعاتی و شیوه بازیابی و پردازش محتوا تفاوت دارند. این تفاوت ها مستقیماً بر کیفیت و قابلیت ارزیابی خروجی های آنها تاثیر می گذارد.
برای نمونه، ابزارهایی مانند چت جی پی تی و کلاد می توانند در مراحل ابتدایی پژوهش، خصوصاً برای آشنایی با مفاهیم، صورت بندی مسئله، شناسایی محورهای مطالعاتی و تهیه خلاصه های مقدماتی مورد استفاده قرار گیرند. در مقابل، ابزارهای تخصصی تری مانند «Scopus AI» و «Scite» و «Primo Research Assistant» با تأکید بر منابع علمی و زیرساخت های بازیابی اطلاعات دانشگاهی، امکانات متفاوتی برای شناسایی و بررسی پیشینه پژوهش فراهم می کنند.
تمایز مهم این ابزارها به منشا اطلاعات و قابلیت ردیابی مستندات بازمی گردد. سامانه هائی که به پایگاه های مقالات علمی و منابع داوری شده متصل هستند، امکان بررسی ارتباط پاسخ با ادبیات معتبر دانشگاهی را تقویت می کنند. البته داوری علمی یک مقاله به تنهایی صحت تمامی ادعاهای آن یا درستی برداشت هوش مصنوعی از محتوای مقاله را ضمانت نمی کند.
علاوه بر این، ابزارهایی مانند «Consensus» و «LeapSpace» هم با تأکید بر محتوای پژوهشی، در همین چارچوب قابل بررسی هستند. انتخاب میان این سیستم ها باید باتوجه به رشته تخصصی، دامنه پوشش منابع، امکانات استناددهی و قابلیت دسترسی به متن اصلی صورت گیرد.
موضوع شفافیت داده های آموزشی هم در پژوهش مبتنی بر هوش مصنوعی اهمیت دارد. شرکت آنتروپیک اعلام نموده است که مدل کلاد با استفاده از ترکیبی اختصاصی از اطلاعات عمومی اینترنت، مجموعه داده های عمومی و خصوصی، داده های کاربران و داده های مصنوعی آموزش می بیند. چنین ترکیبی به خودی خود امکان تشخیص سهم منابع دانشگاهی در تولید هر پاسخ را فراهم نمی نماید. از ین جهت، دسترسی یک مدل به دانش علمی را باید از قابلیت مستندسازی ادعاهای مشخص آن تفکیک کرد.
مقابله با اطمینان کاذب و سوگیری تأییدی
کیفیت استفاده پژوهشی از هوش مصنوعی تا حد زیادی به نحوه طرح پرسش و ارزیابی پاسخ وابسته است. مدلهای زبانی امکان دارد اطلاعاتی نادرست یا ناقص را در قالب عباراتی منسجم و با لحنی مطمئن ارائه نمایند. این خصوصیت می تواند باعث شود پژوهشگر، همبستگی زبانی را به اشتباه نشانه اعتبار علمی تلقی کند.
یکی از مخاطرات شناخته شده در این حوزه، رفتار تأییدگرایانه یا «Sycophancy» است که در آن سیستم بجای ارزیابی مستقل گزاره ها، پاسخ خودرا با انتظارات، پیش فرض ها یا دیدگاه های کاربر هماهنگ می کند. چنین رفتاری خصوصاً در پژوهش هایی که با فرضیه های مناقشه برانگیز سروکار دارند، می تواند باعث تقویت سوگیری تأییدی شود.
برای کاهش این مخاطره، پژوهشگر باید از مدل بخواهد مبانی ادعاهای خودرا مشخص نماید، شواهد مخالف را بررسی نماید، محدودیت های پاسخ را توضیح دهد و منابع قابل مراجعه ارائه نماید. البته توضیح مدل درباره ی چگونگی دستیافتن به پاسخ هم باید مبحث ارزیابی قرار گیرد، چونکه توصیف پسینی یک پروسه استدلال، لزوماً بازتاب دقیق سازوکار حقیقی تولید پاسخ نیست.
نحوه صورت بندی پرسش هم در این پروسه اهمیت اساسی دارد. بعنوان مثال، پرسش «پژوهش های روان شناختی درباره ی رابطه رسانه های اجتماعی و اضطراب چه یافته هایی دارند؟» امکان بررسی دیدگاه ها و نتایج متفاوت را فراهم می آورد. در مقابل، پرسش «چرا رسانه های اجتماعی باعث اضطراب می شوند؟» از ابتدا وجود رابطه علّی را مفروض می گیرد و امکان دارد جهت پاسخ را تحت تاثیر قرار دهد.
بنابراین، طراحی پرسش های خنثی، درخواست شواهد متعارض و بررسی مستقل نتایج از الزامات استفاده روش مند از هوش مصنوعی در تحقیقات دانشگاهی محسوب می شوند.
از ارجاع ظاهری تا احراز اصالت مستندات
یکی از حساس ترین مراحل پژوهش مبتنی بر هوش مصنوعی، بررسی اصالت و ارتباط منابع است. عرضه عنوان مقاله، نام نویسنده، سال انتشار یا حتی شناسه دیجیتال، به تنهایی برای پذیرش اعتبار یک استناد کفایت نمی نماید. اعتبار علمی زمانی احراز می شود که وجود منبع، صحت اطلاعات کتاب شناختی و انطباق ادعای طرح شده با محتوای اصلی آن بررسی شده باشد.
در این زمینه، چارچوب ارزیابی اطلاعات «SIFT» روشی کاربردی عرضه می کند. این چارچوب بر چهار اقدام شامل موارد زیر استوار است:
توقف قبل از پذیرش اطلاعات بررسی اعتبار منبع جست وجوی پوشش معتبرتر ردیابی ادعاها تا منشا اولیه آن ها
کاربست این تکنیک در پژوهش های دانشگاهی مستلزم مراجعه مستقیم به مقالات، گزارشهای رسمی و پایگاه های علمی است. بر همین مبنا، پژوهشگر باید بررسی کند که آیا منبع معرفی شده واقعا وجود دارد، نویسنده از صلاحیت تخصصی مرتبط برخوردار می باشد و نتیجه ای که هوش مصنوعی به آن نسبت داده، با یافته های اصلی منبع مطابقت دارد.
این لزوم خصوصاً درباره ی مرور ادبیات پژوهش اهمیت پیدا می کند، چونکه انتساب نادرست یک یافته به مقاله علمی می تواند بر صورت بندی شکاف پژوهشی، تدوین فرضیه و اعتبار نتایج نهائی تاثیر بگذارد.
مسئله بازنمایی دانش در مدلهای زبانی
چالش اعتبار علمی به خطاهای آشکار و استنادهای نادرست محدود نمی گردد. قسمتی از محدودیت های هوش مصنوعی به ترکیب داده های آموزشی و میزان بازنمایی سنت های علمی، زبان ها و دیدگاه های مختلف مربوط است. بر همین مبنا، اتکای گسترده خیلی از سیستم ها به محتوای اینترنتی و منابع انگلیسی زبان می تواند باعث شود برخی مطالعات محلی، پژوهش های غیردیجیتال یا آثار انتشار یافته به زبان های کمتر نمایندگی شده، حضور محدودی در پاسخ های تولیدی داشته باشند.
پیامد این وضعیت در تحقیقات تطبیقی و میان رشته ای اهمیت بیشتری دارد. بعنوان مثال، بررسی یک مساله حقوقی یا سیاستگذاری عمومی با اتکای انحصاری به پاسخ مدلهای عمومی امکان دارد به برجسته شدن ادبیات علمی کشورهای دارای سهم بیشتر در داده های آموزشی منجر شود و برخی تجربه های نهادی و حقوقی دیگر کشورها را در حاشیه قرار دهد.
از همین روی، ارزیابی کیفیت پاسخ باید علاوه بر صحت گزاره های موجود، به شناسایی دیدگاه ها و منابع غایب هم توجه کند و پژوهشگر مسئول تعیین دامنه مطالعات، انتخاب منابع و تشخیص کفایت شواهد باقی می ماند.
ضرورت باز تعریف سواد پژوهشی در عصر هوش مصنوعی
گسترش هوش مصنوعی مولد، فرصت قابل توجهی برای تسریع دسترسی به اطلاعات، شناسایی منابع و سازمان دهی کارهای پژوهشی فراهم آورده است. بهره برداری علمی از این ظرفیت، به توسعه مهارت هایی وابسته است که امکان تشخیص اعتبار اطلاعات و کنترل کیفیت پروسه پژوهش را فراهم می کنند.
در این چارچوب، انتخاب ابزار متناسب با مأموریت پژوهشی، پرسشگری انتقادی، اعتبارسنجی مستقیم منابع و شناسایی سوگیری های پنهان، چهار مؤلفه اصلی استفاده مسئولانه از هوش مصنوعی به شمار می روند. رعایت ضوابط دانشگاهی در ارتباط با اعلام استفاده از هوش مصنوعی و استناد به محتوای تولیدشده هم قسمتی از الزامات شفافیت پژوهشی است.
مسئله محوری برای دانشگاه ها و موسسات علمی، تدوین معیارهایی است که استفاده از فناوری را با اصول روش شناسی پژوهش پیوند دهد. سرانجام، ارزش هوش مصنوعی در پژوهش دانشگاهی باید برمبنای میزان کمک آن به تولید دانش معتبر، مستند و قابل بازنگری سنجیده شود؛ معیاری که مسئولیت نهائی تحقق آن همچنان بر عهده پژوهشگر انسانی قرار دارد.
به طور خلاصه شرکت آنتروپیک اعلام نموده است که مدل کلاد با بهره گیری از ترکیبی اختصاصی از اطلاعات عمومی اینترنت، مجموعه داده های عمومی و خصوصی، داده های کاربران و داده های مصنوعی آموزش می بیند. چنین رفتاری به ویژه در پژوهش هایی که با فرضیه های مناقشه برانگیز سروکار دارند، می تواند سبب تقویت سوگیری تأییدی شود. برای مثال، بررسی یک مسئله حقوقی یا سیاست گذاری عمومی با اتکای انحصاری به پاسخ مدل های عمومی امکان دارد به برجسته شدن ادبیات علمی کشورهای دارای سهم بیشتر در داده های آموزشی منجر شود و برخی تجربه های نهادی و حقوقی دیگر کشورها را در حاشیه قرار دهد.
منبع: تعمیر تلفن
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب