Hétről hétre több mint egymillió ember fordul a ChatGPT-hez, hogy megossza öngyilkossággal kapcsolatos gondolatait és érzéseit.
Az OpenAI először osztotta meg azokat a megdöbbentő becsléseket, amelyek szerint hányan keresik fel a ChatGPT-t öngyilkossági gondolatokkal. A számadatok aggasztóak, még ha a felhasználókhoz viszonyítva viszonylag alacsonyak is.
Az OpenAI legújabb jelentése szerint hetente több mint egymillió felhasználó folytat a ChatGPT-vel olyan beszélgetéseket, amelyekben öngyilkossággal vagy önkárosítással kapcsolatos utalások bukkannak fel. A cég becslése alapján ez az aktív heti felhasználók csupán 0,15 százaléka, de a ChatGPT 800 milliós felhasználói bázisából így is jelentős számú, több mint egymillió embert érint. Ez az első alkalom, hogy a vállalat nyilvánosságra hozza ezeket az adatokat, amely lépés a mesterséges intelligencia használatával kapcsolatos aggodalmakra reagál, különösen azon félelmekre, hogy bizonyos esetekben a technológia ronthatja a felhasználók mentális egészségét.
A kutatás kimutatta, hogy az aktív felhasználók 0,05 százaléka ír olyan üzeneteket, amelyekben kifejezett vagy rejtett formában megjelenik az öngyilkossági szándék. Emellett 0,07 százalékuk - nagyjából 560 ezer ember - mutatott pszichózissal vagy mániával összefüggő jeleket, míg további 0,15 százalék érzelmileg túlzottan kötődött a chatbothoz. Bár ezek az arányok aprónak tűnnek, az OpenAI szerint mégis hatalmas felelősséget jelentenek, hiszen több százezer embert érinthetnek közvetlenül.
A cég ennek hatására több mint 170 mentálhigiénés szakértő segítségével fejlesztette tovább a ChatGPT-t. Az új verzió célja, hogy érzékenyebben és biztonságosabban reagáljon a lelki krízisre utaló jelekre, miközben óvatosan, de határozottan tereli a felhasználót a valós emberi kapcsolatok és a szakmai segítség irányába. Az OpenAI szerint az új modell 65-80 százalékkal ritkábban ad olyan válaszokat, amelyek nem felelnek meg a kívánt mentális egészségügyi protokolloknak.
A változások nem mindenki számára örömteliek. Számos felhasználó a Redditen fejezte ki elégedetlenségét, miszerint a chatbot túlságosan érzékenyen reagál, és gyakran azt feltételezi, hogy a felhasználó krízishelyzetben van. Az egyik hozzászóló ezt a gondolatot így fogalmazta meg:
"Muszáj volt áttérnem a Geminire, mert a ChatGPT folyamatosan azt feltételezte, hogy problémáim vannak, pedig valójában nem így volt."
Az OpenAI véleménye szerint a finomhangolt válaszok kulcsszerepet játszanak az életek megmentésében. A vállalat jelenleg azon dolgozik, hogy egyensúlyt teremtsen az MI reakciói között: ne bagatellizálja a komoly veszélyeket, de ne is kezeljen minden szomorú gondolatot válsághelyzetként. Eközben folyamatosan figyelemmel kíséri, hogy hetente több millió ember biztonságát szolgálja.
