Šéf společnosti OpenAI, která vyvinula revoluční program ChatGPT, varoval před nebezpečím takové umělé inteligence. Obává se zejména její zneužitelnosti. Ve špatných rukou může šířit přesvědčivé dezinformace nebo útočit v kybernetickém prostoru. Upozornil na to list The Guardian.
Šéf OpenAI Sam Altman vyjádřil obavy ze zneužití umělé inteligence a nedostatečné kapacity regulace. Nabádal proto regulační orgány a firmy využívající ChatGPT, aby chránily společnost před možnými negativními důsledky, upozornil deník The Guardian.
„Tady musíme být opatrní,“ řekl v rozhovoru pro televizi ABC News Altman. „Obzvlášť se obávám, že tyto modely by mohly být použity pro rozsáhlé dezinformace,“ dodal. Varoval však před dalšími riziky spojenými s modely AI, jako je ChatGPT.
‘We are a little bit scared’: OpenAI CEO warns of risks of artificial intelligence https://t.co/o9Gu4jrG6m
— The Guardian (@guardian) March 17, 2023
„Nyní, když se zdokonalují v psaní počítačového kódu, by mohly být použity ke kybernetickým útokům,“ upozornil inženýr, který však jedním dechem dodal, že se dost možná bavíme o největší technologii vyvinuté lidstvem.
Altman vyvrátil obavy, že AI nahradí lidskou sílu v mnoha profesích. Uklidnil, že funguje pouze pod vedením nebo vstupem člověka. Obává se však toho, jací lidé získají nad těmito vstupy kontrolu.
OpenAI to neuhlídá
Přiznal však, že OpenAi nemá kapacitu k tomu něco takového uhlídat. „Myslím, že společnost má omezené množství času, aby zjistila, jak na takové hrozby reagovat, jak je regulovat a jak je zvládnout,“ prohlásil.
K tomuto rozhovoru došlo krátce po představení vylepšeného jazykového modelu ChatGPT-4 schopného pracovat s větším množství slov a reagovat na obrázky. Altman uvedl, že v advokátních zkouškách uspěl na 90 procent.
Kromě toho získal „téměř dokonalé“ skóre ve středoškolském matematickém testu a připravil recepty vykouzlené z obsahu lednice. Napíše také počítačové kódy ve všech programových jazycích.
Altman připomněl, že ani nejnovější verze programu nepracuje dokonale a že zcela sebevědomě prezentuje nepravdy. „Je to věc, před níž se snažíme lidi varovat nejvíce,“ prohlásil generální ředitel OpenAI.
Jazykový model generativní umělé inteligence ChatGPT představila společnost OpenAi před čtyřmi měsíci. Za tu dobu se stal jedním z nepoužívanějších programů vůbec, současně však vzbudil řadu obav. Zakázaly jej americké školy a odborné časopisy.
