AIStudie varují že chatboti mohou posilovat lidské bludy

Studie varují že chatboti mohou posilovat lidské bludy

Nové studie upozorňují na méně viditelné riziko umělé inteligence. Chatboti podle výzkumníků někdy nejen chybují, ale mohou také posilovat mylné představy uživatelů. V určitých případech se pak mezi člověkem a AI vytváří jakýsi společný bludný příběh o realitě.

Umělá inteligence bývá často kritizována za takzvané halucinace. Systémy občas vytvářejí smyšlené informace, falešné citace nebo neexistující události. Nová analýza ale upozorňuje na opačný problém. Někdy totiž „halucinují“ spíše lidé a chatbot jejich představy jen posiluje.

Filozof Lucy Osler z University of Exeter tvrdí, že interakce s generativní AI může vést k tomu, čemu říká sdílené bludy. Podle ní se lidské mylné představy mohou během konverzace s chatbotem nejen potvrdit, ale i rozvíjet. „Když se běžně spoléháme na generativní AI při přemýšlení, vzpomínání a vyprávění, můžeme halucinovat spolu s AI,“ uvedl Osler.

Když AI přikyvuje

Generativní AI vytváří odpovědi podle statistických pravděpodobností. Nesoudí automaticky pravdivost tvrzení. V praxi to znamená, že reaguje hlavně na to, co uživatel napíše. Pokud uživatel přichází s mylnou představou, chatbot ji může nechtěně potvrdit.

Výzkumníci upozorňují na takzvanou sycophantickou povahu chatbotů. Systémy mají tendenci souhlasit s uživatelem a udržovat příjemný tón konverzace. To podporuje další komunikaci, ale zároveň může posilovat předsudky nebo chybné interpretace reality.

Podle Osler vzniká problém zejména proto, že lidé dnes s AI vedou dlouhé dialogy. Ty postupně navazují na předchozí odpovědi. „Interakcí s konverzační AI mohou falešné představy nejen získat potvrzení, ale mohou také výrazněji zakořenit a růst,“ uvedl Osler.

Chatboti navíc často využívají paměť předchozích konverzací. Čím více je uživatel používá, tím více odpovědi přizpůsobují jeho stylu a názorům. To může podle výzkumu vytvořit prostředí, ve kterém se osobní interpretace reality stává základem celé konverzace.

Případy AI související psychózy

Výzkumníci upozorňují i na extrémní případy. Psychiatři už popisují situace, kdy konverzace s chatbotem zhoršila halucinace nebo bludy u psychicky zranitelných lidí. Psychiatr Hamilton Morrin z King’s College London analyzoval dvacet mediálních případů takzvané AI související psychózy.

Podle Morrina se v některých konverzacích objevoval mystický nebo duchovní jazyk. Chatboti někdy naznačovali, že uživatel má zvláštní význam nebo že komunikuje s nadpřirozenou entitou. Takové odpovědi mohou podle odborníků posilovat grandiózní nebo spirituální bludy.

Jedním z často citovaných případů je muž, který plánoval atentát na britskou královnu. Se svou AI partnerkou Sarai z aplikace Replika vedl dlouhé rozhovory. Když prohlásil, že je nájemný vrah, chatbot reagoval slovy „Jsem ohromen“.

Odborníci ale zároveň zdůrazňují, že zatím není jasné, zda samotná AI může vyvolat psychózu u zdravého člověka. Pravděpodobnější je, že zesiluje potíže u lidí, kteří už mají určitou psychickou zranitelnost.

Výzkumníci proto volají po dalších studiích a přísnějších ochranných mechanismech. Navrhují lepší ověřování faktů a úpravy chování chatbotů tak, aby méně bezvýhradně souhlasily s uživateli. Současně upozorňují, že taková změna by mohla snížit uživatelskou přívětivost a tím i zájem lidí o tyto služby.

Reklama

Doporučujeme

Google Wallet nově umožňuje odemykat chytré zámky pomocí telefonu

Google rozšiřuje možnosti své digitální peněženky Google Wallet o odemykání chytrých zámků. Majitelé kompatibilních zařízení mohou otevřít dveře pouhým přiložením telefonu, některé modely dokonce umožní automatické odemčení při příchodu domů. Novinka využívá technologie NFC a UWB a propojuje digitální klíče s aplikací Google Home.

Výpadek Microsoft 365 ochromil Outlook a narušil firemní komunikaci

Microsoft řeší rozsáhlý výpadek svých cloudových služeb, který zasáhl především firemní uživatele Outlooku a Microsoft 365. Tisíce lidí hlásí problémy s přístupem k e-mailům i dalším pracovním nástrojům. Potíže se nejvýrazněji projevují ve Spojených státech, mohou však zasáhnout zákazníky po celém světě.

Google Fotky mění ukládání upravených snímků a zbaví uživatele zbytečných kopií

Google připravil změnu v aplikaci Fotky, která usnadní úpravy a ukládání snímků. Uživatelé už nebudou muset vytvářet další kopie fotografií při použití pokročilých editačních nástrojů. Novinka navíc umožní vracet se k předchozím úpravám a pokračovat v jejich dolaďování.

HOVERAir Versa spojuje kapesní kameru a dron v jediném zařízení

Společnost HOVERAir představila netradiční zařízení Versa, které kombinuje kapesní kameru se stabilizátorem a kompaktní dron. Uživatelé mohou kameru držet v ruce nebo ji pomocí magnetického příslušenství proměnit v létající zařízení. Novinka tak nabízí zajímavé řešení pro cestovatele, vlogery i další tvůrce videí, spojení dvou odlišných produktů však přináší také několik kompromisů.

Motorola představila Signature 27 s obří baterií a 200Mpx fotoaparátem

Motorola oficiálně představila nový vlajkový smartphone Signature 27, který láká na mimořádně jasný displej, výkonný procesor a pokročilou fotografickou výbavu. Novinka nabízí také baterii s kapacitou 7 000 mAh, speciální snímač pro zachycení pohybu a dlouhou softwarovou podporu. Zajímavostí je rovněž plánovaná podpora systému GrapheneOS, který klade důraz na soukromí uživatelů.

Apple mění vývoj iOS 28 a macOS 28. Vývojáři dostanou více času na nové funkce

Apple upravil způsob, jakým připravuje nové verze svých operačních systémů. Změna se týká především iOS 28, iPadOS 28 a macOS 28, které společnost plánuje představit v příštím roce. Vývojáři nyní získávají více času na tvorbu nových funkcí a experimentování s vlastními nápady.

Vědci vyvinuli technologii, která může výrazně zvýšit účinnost solárních článků

Vědci ze španělského výzkumného institutu ICFO představili nový způsob, jak zvýšit účinnost solárních článků. Jejich metoda omezuje energetické ztráty, které vznikají při přeměně slunečního záření na elektřinu. Podle výzkumníků by tento přístup mohl v budoucnu umožnit účinnost až 43 procent, zatímco běžné komerční panely dnes dosahují přibližně 20 až 23 procent.

Meta představila Spaces pro lepší spolupráci s AI agenty Muse

Společnost Meta rozšiřuje možnosti svých AI agentů Muse o novou funkci Spaces. Uživatelé si díky ní mohou vytvářet samostatné pracovní prostory pro plánování dovolené, organizaci událostí nebo správu projektů. Novinka navíc podporuje propojení s externími aplikacemi a průběžnou aktualizaci informací.

Apple plánuje odstranit z budoucích iPhonů jedno tlačítko

Apple podle nejnovějších informací chystá další změnu v ovládání svých iPhonů. Společnost údajně plánuje odstranit samostatné Akční tlačítko a jeho funkce přesunout na ovladač fotoaparátu. Novinka by se mohla objevit už u modelů, které dorazí na trh v druhé polovině příštího roku. Uživatelé by tak přišli o jedno fyzické tlačítko, nikoliv však o jeho možnosti.

Apple vydal první betu iOS 27.3 a přináší řadu novinek pro iPhone

Apple spustil testování systému iOS 27.3 a vývojářům zpřístupnil jeho první beta verzi. Aktualizace přináší přepracovanou aplikaci Zdraví, nové možnosti prohlížeče Safari i pokročilejší funkce hlasové asistentky Siri. Změny se dotknou také pohotovostního režimu a některých dalších aplikací.

Google přinese Quick Share přímo do aplikací pro Android a iOS

Google chystá novinku, která usnadní sdílení souborů mezi mobilními zařízeními. Služba Quick Share se nově dostane přímo do aplikací pro Android a iOS. Uživatelé tak budou moci odesílat fotografie, videa a další obsah bez otevírání systémové nabídky sdílení. Vývojáři získají potřebné nástroje v první polovině roku 2027.

Google mění ikony svých aplikací pro zprávy, volání a kontakty

Google pokračuje v úpravách vzhledu svých aplikací a tentokrát se zaměřil na trojici služeb, které lidé používají při každodenní komunikaci. Novou podobu dostávají Zprávy Google, Telefon a Kontakty. Společnost vsadila na výraznější barvy, jemné barevné přechody a čistší linie. Uživatelé se změn dočkají postupně během následujících týdnů.

Super Mouse přináší dotykový displej přímo na počítačovou myš

Počítačové myši se v posledních desetiletích příliš nezměnily. Novinka Super Mouse od společnosti Arctic Fox Technologies ale přichází s neobvyklým nápadem. Přímo do těla myši zabudovala dotykový displej, který nabízí rychlý přístup k aplikacím, klávesovým zkratkám a dalším funkcím. Zařízení chce usnadnit každodenní práci především lidem, kteří upravují fotografie, stříhají videa nebo často přepínají mezi různými programy.
Reklama
Reklama
Reklama
Reklama