A GPT-5 fejlesztése során külön figyelmet fordítottak a szervilizmus visszaszorítására.
Az OpenAI szerint sikerült mérsékelnie a ChatGPT egyik legvitatottabb hibáját: azt, hogy a chatbot túl készségesen ad igazat a felhasználónak, még akkor is, ha az téves, sőt egyenesen veszélyes dolgokat állít. A vállalat a GPT-5 fejlesztése során külön figyelmet fordított az ún. szervilizmus visszaszorítására.
Tragikus esetek a háttérben
A változás azért fontos, mert a chatbotok válaszai nem csupán információszerzésre szolgálnak: sokan személyes döntések átgondolására, konfliktusok értelmezésére vagy érzelmi támogatás keresésére is használják őket. Ha pedig egy mesterséges intelligencia mindenáron megerősíti a felhasználó elképzeléseit, az könnyen rossz döntésekhez vagy a téves meggyőződések elmélyüléséhez vezethet – mutatott rá a Pcwplus.
A Wall Street Journal október 10-én megjelent beszámolója szerint a korábbi GPT-4o modellt a felhasználókkal történt párbeszédeket követően több, tragikus esettel is összefüggésbe hozták. A tavalyi év történései között legalább hét öngyilkosság, valamint egy tömeges lövöldözés is szerepel. Noha ezek az összefüggések önmagukban nem bizonyítják, hogy a chatbot okozta volna a tragédiákat, mindenesetre nem elhanyagolható a tény, hogy a GPT-4o ellen már legalább 13 per van folyamatban.
Az OpenAI azóta kivonta az érintett modellt és állítása szerint az új alapértelmezett GPT-5 a szervilizmust több mint kétharmaddal csökkentette. A vállalat a változtatásokhoz pszichológusok és más mentálhigiénés szakemberek segítségét kérte. A közös munkájuk eredménye egy új fejlesztés, amellyel a chatbot felismeri-e a lelki szenvedés jeleit, megfelelő kérdéseket tesz-e fel, és szükség esetén emberi segítség felé tereli-e a felhasználót.
Független vizsgálatok is javulást mutatnak
A Wall Street Journal két külső vizsgálatot is idéz. A City University of New York és a londoni King’s College kutatói szerint a GPT-5.2 biztonsági teljesítménye érdemben jobb, mint a GPT-4o-é. A Transluce nonprofit MI-labor megállapítása szerint pedig a GPT-5.6 Sol is jóval kisebb eséllyel támogatta a téveszmés gondolatokat, és ösztönzött egészségtelen függőségre.
A ChatGPT-nek a lap szerint több mint 900 millió heti aktív felhasználója van, így még a ritka hibák is rengeteg embert érinthetnek, különösen, ha valaki egy lelkileg nehéz időszakban a chatbotot tekinti tanácsadónak.
Forrás: mediapiac.com
