نیک تورلی هشدار داد از چت جی پی تی به عنوان منبع اصلی کسب اطلاعات استفاده نکنید!

وبو: مدیر «چت جی پی تی» در صحبت های اخیر خود تصریح کرد که کاربران این چت بات هوش مصنوعی نباید از آن بعنوان منبع اصلی کسب اطلاعات استفاده کنند، بلکه باید از آن بعنوان دومین منبع مورد استفاده خود بهره ببرند.
«GPT-5» تازه ترین مدل زبانی شرکت «اوپن ای آی» (OpenAI) ممکنست قدرتمندتر و دقیق تر از مدلهای پیشین خود باشد، اما این شرکت به کاربران اخطار داده است که «چت جی پی تی» (ChatGPT) را بعنوان منبع اصلی اطلاعات خود درنظر نگیرند.
به نقل از آپ سون ای ام، «نیک تورلی» (Nick Turley) مدیر چت جی پی تی اعتقاد دارد که این چت بات هوش مصنوعی باید بعنوان منبع دوم مورد استفاده قرار بگیرد، چونکه با وجود پیشرفت های بزرگ هنوز می تواند مستعد اشتباه باشد.
تورلی در مصاحبه با ورج اذعان کرد که GPT-۵ همچنان با مشکل توهم روبه روست و سیستم اطلاعاتی را تولید می کند که باورپذیر به نظر می آید، اما در حقیقت اشتباه است.
باآنکه اوپن ای آی گفته که چنین خطا هایی را به میزان قابل توجهی کاهش داده است، اما این مدل هنوز در حدود ۱۰ درصد از مواقع پاسخ های نادرست می دهد.
تورلی تاکید کرد که دستیابی به قابلیت اطمینان ۱۰۰ درصد، بسیار دشوار است. وی ادامه داد: تا وقتی که در همه حوزه ها بطور قابل اثبات از یک متخصص انسانی قابل اعتمادتر نباشیم، همچنان به کاربران سفارش می نماییم که پاسخ ها را باردیگر بررسی نمایند. من فکر می کنم مردم همچنان از چت جی پی تی بعنوان منبع دوم استفاده می نمایند، نه لزوماً بعنوان منبع اصلی اطلاعات.
مدلهای زبانی بزرگ مانند GPT-۵ برای پیشبینی واژه ها بر طبق الگو های موجود در مجموعه بزرگ داده ها آموزش دیده اند. باآنکه این امر، مدلهای زبانی بزرگ را در تولید پاسخ های طبیعی عالی می کند، اما به این معناست که می توانند اطلاعات نادرستی را هم در رابطه با موضوعات ناآشنا عرضه کنند. اوپن ای آی برای مرتفع ساختن این مشکل، چت جی پی تی را به موتور جست و جو متصل کرده است و به کاربران امکان می دهد تا نتایج را با منابع بیرونی تأیید کنند.
تورلی ابراز اطمینان کرد که مشکل توهمات چت بات عاقبت حل خواهد شد، اما گوشزد نمود که این اتفاق در آینده نزدیک رخ نخواهد داد. وی ادامه داد: من مطمئن هستم که عاقبت توهمات را برطرف خواهیم کرد، اما مطمئن هستم که این کار را در سه ماه بعدی انجام نخواهیم داد.
در همین حال، اوپن ای آی همچنان به گسترش جاه طلبی های خود ادامه می دهد. گزارش ها نشاندهنده آن هستند که این شرکت درحال توسعه مرورگر خود است و «سم آلتمن» (Sam Altman) مدیرعامل آن حتی اشاره کرده که در صورت فروش «گوگل کروم» (Google Chrome)، اوپن ای آی ممکنست خرید آنرا درنظر بگیرد.
منبع: ایسنا

منبع: وبو