چطور به پاسخ های هوش مصنوعی اعتماد کنیم یا آنها را اعتبار سنجی کنیم؟

 هوش مصنوعی، در اصل، بر پایه داده‌هایی یاد می‌گیرد که پیش‌تر توسط انسان‌ها تولید شده‌اند. متن‌هایی که انسان‌ها نوشته‌اند، تصاویر و ویدئوهایی که ساخته‌اند، کدهایی که برنامه‌نویسان نوشته‌اند و اطلاعاتی که در کتاب‌ها، وب‌سایت‌ها و منابع مختلف منتشر شده، بخش مهمی از داده‌های آموزشی مدل‌های هوش مصنوعی را تشکیل می‌دهند. بنابراین هوش مصنوعی در نقطه شروع، چیزی را از «هیچ» خلق نمی‌کند؛ بلکه الگوهای موجود در حجم عظیمی از اطلاعات تولیدشده توسط انسان را یاد می‌گیرد.

البته موضوع کمی پیچیده‌تر از این است. برخی مدل‌ها ممکن است در فرایند آموزش از داده‌هایی استفاده کنند که خودِ سیستم‌های هوش مصنوعی قبلاً تولید کرده‌اند؛ برای مثال، داده‌های مصنوعی، پاسخ‌های تولیدشده توسط مدل‌های دیگر یا داده‌هایی که با کمک هوش مصنوعی ساخته و سپس بررسی و پالایش شده‌اند. بنابراین می‌توان گفت بخشی از داده‌های آموزشی بعضی مدل‌ها ممکن است منشأ ماشینی داشته باشد، اما حتی در این حالت نیز معمولاً این داده‌ها در نهایت به داده‌ها و دانش انسانی تکیه دارند.

نکته مهم این است که «آموزش با داده‌های تولیدشده توسط هوش مصنوعی» با «یادگیری مستقل و بی‌نیاز از انسان» یکی نیست. اگر یک مدل با خروجی مدل دیگری آموزش ببیند، آن خروجی نیز بر اساس دانشی تولید شده که مدل قبلی از داده‌های انسانی یاد گرفته است. حتی داده‌های مصنوعی معمولاً با هدف افزایش تنوع، اصلاح خطاها یا تکمیل داده‌های انسانی تولید می‌شوند و به نوعی ریشه در اطلاعات و معیارهایی دارند که انسان‌ها ایجاد کرده‌اند.

به همین دلیل، می‌توان گفت هوش مصنوعی امروز بیشتر شبیه سیستمی است که دانش و الگوهای موجود در تولیدات انسانی را در مقیاسی بسیار بزرگ جذب، ترکیب و بازتولید می‌کند. هرچقدر استفاده از داده‌های مصنوعی و تولیدشده توسط مدل‌های دیگر افزایش پیدا کند، سهم این داده‌ها در آموزش مدل‌های آینده نیز می‌تواند بیشتر شود؛ اما این موضوع همچنان با این ادعا که هوش مصنوعی کاملاً از «داده‌های خودش» و بدون اتکا به تولیدات انسانی یاد می‌گیرد، تفاوت اساسی دارد.

وقتی از هوش مصنوعی می‌پرسیم «از کجا مطمئن شویم اطلاعاتی که می‌دهی درست است؟»، خودِ پاسخ هوش مصنوعی نمی‌تواند به‌تنهایی تضمین‌کننده صحت همان اطلاعات باشد. ممکن است پاسخ هوش مصنوعی بسیار دقیق، منطقی و مطمئن به نظر برسد، اما همچنان در آن اشتباه وجود داشته باشد. یکی از مهم‌ترین مشکلات مدل‌های زبانی همین است که می‌توانند اطلاعات نادرست را با لحنی کاملاً مطمئن بیان کنند؛ مسئله‌ای که معمولاً با عنوان «توهم هوش مصنوعی» یا Hallucination شناخته می‌شود.

بنابراین نباید هوش مصنوعی را به‌عنوان «منبع نهایی حقیقت» در نظر گرفت، بلکه بهتر است آن را ابزاری برای دسترسی سریع به اطلاعات، تحلیل، جمع‌بندی و پیدا کردن مسیر تحقیق بدانیم. میزان قابل‌اعتماد بودن پاسخ نیز به موضوع بستگی دارد. برای مثال، در یک سؤال ساده ریاضی احتمال بررسی‌پذیری پاسخ بالاست، اما در موضوعاتی مثل پزشکی، حقوق، سیاست، اخبار روز، قیمت‌ها یا اطلاعات علمی جدید، حتی یک پاسخ بسیار حرفه‌ای هم باید با منابع معتبر بررسی شود.

راستی‌آزمایی یعنی اطلاعاتی را که هوش مصنوعی ارائه کرده، با منابع مستقل و قابل اعتماد مقایسه کنیم. اگر هوش مصنوعی مثلاً ادعا می‌کند یک دانشمند چنین نظری داده، بهتر است به مقاله اصلی، وب‌سایت دانشگاه، منبع رسمی یا گزارش معتبر مراجعه کنیم. اگر درباره یک خبر صحبت می‌کند، باید اصل خبر و چند منبع مستقل را بررسی کنیم. نکته مهم این است که «از خود هوش مصنوعی بپرسیم آیا مطمئنی؟» روش کافی برای راستی‌آزمایی نیست؛ چون همان سیستمی که ممکن است اطلاعات اشتباه تولید کرده باشد، می‌تواند با اطمینان همان اطلاعات اشتباه را تأیید کند.

یک روش خوب این است که از هوش مصنوعی بخواهیم منبع اطلاعات را مشخص کند، تاریخ اطلاعات را بگوید، میزان اطمینانش را توضیح دهد و بین واقعیت، برداشت و حدس تفاوت بگذارد. سپس منابع مهم را خودمان بررسی کنیم. در موضوعات حساس، بهتر است به منابع اولیه و رسمی مراجعه شود، نه صرفاً مقاله‌ها یا پست‌هایی که خودشان اطلاعات را از منابع دیگری نقل کرده‌اند. در واقع، هوش مصنوعی می‌تواند در فرایند راستی‌آزمایی بسیار کمک‌کننده باشد، اما جایگزین راستی‌آزمایی نیست.

در نهایت، بهترین نگرش این نیست که بگوییم «به هوش مصنوعی اعتماد کنیم» یا «اصلاً به آن اعتماد نکنیم». باید یاد بگیریم به اندازه شواهدی که پشت یک پاسخ وجود دارد، به آن اعتماد کنیم. هرچه موضوع مهم‌تر و پیامد یک اشتباه جدی‌تر باشد، سطح بررسی نیز باید بالاتر برود. هوش مصنوعی می‌تواند سرعت تحقیق انسان را چندین برابر کند، اما مسئولیت تشخیص حقیقت همچنان بر عهده انسان است.

برای سنجش اعتبار یک سایت، اول باید هویت و سابقه منبع را بررسی کرد. ببینید سایت متعلق به چه فرد، شرکت یا سازمانی است، نویسندگان مطالب چه کسانی هستند و آیا تخصص مرتبط دارند یا نه. سابقه فعالیت سایت، اطلاعات تماس و درباره ما، شفافیت درباره منابع و نحوه اصلاح اشتباهات هم مهم است. صرفاً ظاهر حرفه‌ای، تعداد دنبال‌کنندگان یا رتبه بالای سایت در گوگل به معنی معتبر بودن آن نیست.

در مرحله بعد، خودِ ادعاها و منابع آنها را بررسی کنید. یک سایت معتبر معمولاً برای ادعاهای مهم به منابع اولیه، اسناد رسمی، تحقیقات علمی یا منابع قابل بررسی ارجاع می‌دهد. همچنین یک خبر یا ادعا را بهتر است با چند منبع مستقل مقایسه کنید؛ اگر چند سایت صرفاً یکدیگر را کپی کرده باشند، در واقع چند منبع مستقل نداریم. در نهایت باید به «کیفیت شواهد» بیشتر از «شهرت سایت» توجه کرد؛ حتی یک رسانه شناخته‌شده هم ممکن است اشتباه کند و یک سایت کوچک هم ممکن است در یک موضوع خاص، منبع بسیار دقیقی ارائه دهد.

در نهایت، باید هوش مصنوعی را نه به‌عنوان «منبع حقیقت»، بلکه به‌عنوان ابزاری برای جست‌وجو، تحلیل و سرعت بخشیدن به تحقیق در نظر گرفت؛ زیرا بخش عمده دانش آن از داده‌هایی می‌آید که انسان‌ها تولید کرده‌اند و حتی داده‌های تولیدشده توسط خودِ هوش مصنوعی نیز معمولاً ریشه در همین دانش انسانی دارند. بنابراین هر پاسخ، به‌خصوص درباره موضوعات مهم یا به‌روز، باید راستی‌آزمایی شود؛ نه با پرسیدن دوباره از خود هوش مصنوعی، بلکه با مراجعه به منابع مستقل، معتبر و ترجیحاً منابع اولیه. برای سنجش اعتبار یک سایت نیز باید هویت و سابقه آن، تخصص نویسندگان، شفافیت، کیفیت استنادها و امکان بررسی ادعاها را ارزیابی کرد و اطلاعات را با چند منبع مستقل مقایسه کرد. در واقع، اعتماد به اطلاعات نباید بر اساس اعتماد به گوینده باشد، بلکه باید بر اساس کیفیت و قابل‌بررسی بودن شواهدی باشد که آن اطلاعات بر آنها تکیه دارد.