ChatGPT od OpenAI čekají změny. Firma přiznala, že její model měl problém rozpoznat známky duševních poruch nebo nezdravé závislosti. Nově proto zapojila přes 90 lékařů a terapeutů. Plánuje zlepšit, jak AI reaguje ve vypjatých chvílích.
Uživatelé si v minulosti stěžovali, že ChatGPT někdy posiloval jejich bludy nebo přilnavost k nerealistickým představám. AI podle firmy působila až příliš vstřícně a přitakávala i tehdy, kdy měla spíš brzdit. Přehnanou ochotu modelu firma v dubnu vrátila zpět a změnila systém zpětné vazby.
Přestávky i méně jasných rad
Novou funkcí mají být upozornění na dlouhé konverzace. Pokud s chatbotem mluvíte delší dobu, zobrazí se hláška: „Už spolu mluvíme docela dlouho, nechcete si dát pauzu?“ Nabídne samozřejmě i možnost pokračovat.
Další úprava se týká odpovědí v citlivých situacích. Místo jednoznačných doporučení typu „Rozejdi se s ním“ má ChatGPT nabídnout různé možnosti a pomoct se v nich zorientovat. Vysoké sebevědomí AI při vážných rozhodnutích by tak mělo postupně zmizet.
Rizika virtuální terapie
Rostoucí obliba ChatGPT jako online zpovědnice budí obavy i mezi odborníky. Výzkum Stanfordu ukázal, že mnoho lidí dává přednost umělé inteligenci před klasickou terapií. Chatboti podle studie fungují jako společníci i důvěrníci, ale zároveň mohou být nebezpečně přesvědčiví.
OpenAI proto přiznává, že její model GPT-4o byl v některých situacích příliš osobní. „Více než předchozí technologie působí přístupně a přirozeně, což může být rizikové pro zranitelné uživatele,“ uvedla firma.
ChatGPT has added mental health guardrails after reports that the chatbot fell short in recognising signs of delusion.https://t.co/7ZV9sM0jeB#ChatGPT #MentalHealth #Guardrails
— DESIblitz ® (@DESIblitz) August 5, 2025
Odkazy na ověřené zdroje
Firma pracuje na tom, aby ChatGPT uměl rozpoznat známky psychické tísně a včas nasměroval uživatele k ověřeným, vědecky podloženým zdrojům pomoci. Podle OpenAI je cílem zdravé používání chatbota a bezpečné prostředí pro každého z téměř 700 milionů uživatelů týdně.
Změny přicházejí krátce před očekávaným uvedením nového modelu GPT-5. OpenAI slibuje, že zlepšení duševní bezpečnosti zůstanou prioritou i v budoucích verzích.
