Více
    23.6 C
    Czech
    Středa 29. května 2024

    Šéf OpenAI přiznal obavy z umělé inteligence

    Šéf společnosti OpenAI, která vyvinula revoluční program ChatGPT, varoval před nebezpečím takové umělé inteligence. Obává se zejména její zneužitelnosti. Ve špatných rukou může šířit přesvědčivé dezinformace nebo útočit v kybernetickém prostoru. Upozornil na to list The Guardian.  

    Šéf OpenAI Sam Altman vyjádřil obavy ze zneužití umělé inteligence a nedostatečné kapacity regulace. Nabádal proto regulační orgány a firmy využívající ChatGPT, aby chránily společnost před možnými negativními důsledky, upozornil deník The Guardian.

    „Tady musíme být opatrní,“ řekl v rozhovoru pro televizi ABC News Altman. „Obzvlášť se obávám, že tyto modely by mohly být použity pro rozsáhlé dezinformace,“ dodal. Varoval však před dalšími riziky spojenými s modely AI, jako je ChatGPT.

    „Nyní, když se zdokonalují v psaní počítačového kódu, by mohly být použity ke kybernetickým útokům,“ upozornil inženýr, který však jedním dechem dodal, že se dost možná bavíme o největší technologii vyvinuté lidstvem.

    Altman vyvrátil obavy, že AI nahradí lidskou sílu v mnoha profesích. Uklidnil, že funguje pouze pod vedením nebo vstupem člověka. Obává se však toho, jací lidé získají nad těmito vstupy kontrolu.

    OpenAI to neuhlídá

    Přiznal však, že OpenAi nemá kapacitu k tomu něco takového uhlídat. „Myslím, že společnost má omezené množství času, aby zjistila, jak na takové hrozby reagovat, jak je regulovat a jak je zvládnout,“ prohlásil.

    K tomuto rozhovoru došlo krátce po představení vylepšeného jazykového modelu ChatGPT-4 schopného pracovat s větším množství slov a reagovat na obrázky. Altman uvedl, že v advokátních zkouškách uspěl na 90 procent.

    Kromě toho získal „téměř dokonalé“ skóre ve středoškolském matematickém testu a připravil recepty vykouzlené z obsahu lednice. Napíše také počítačové kódy ve všech programových jazycích.

    Altman připomněl, že ani nejnovější verze programu nepracuje dokonale a že zcela sebevědomě prezentuje nepravdy. „Je to věc, před níž se snažíme lidi varovat nejvíce,“ prohlásil generální ředitel OpenAI.

    Jazykový model generativní umělé inteligence ChatGPT představila společnost OpenAi před čtyřmi měsíci. Za tu dobu se stal jedním z nepoužívanějších programů vůbec, současně však vzbudil řadu obav. Zakázaly jej americké školy a odborné časopisy.

    Sledujte nás na sítích

    OpenAI zakládá bezpečnostní výbor. Bude dohlížet na výzkum a trénovat model nové generace

    Společnost OpenAI oznámila zřízení Výboru pro bezpečnost a zabezpečení, devítičlenného panelu, jehož úkolem je zajistit bezpečný průběh výzkumu strojového učení. Vede ho generální ředitel OpenAI Sam Altman a tři další ředitelé včetně předsedy správní rady Breta Taylora. Členyjsou také vedoucí inženýři Aleksander Madry, Lilian Weng, John Schulman, Matt Knight a Jakub Pachocki.

    Společnost xAI Elona Muska získala 6 miliard dolarů na vývoj umělé inteligence. Plánuje spuštění superpočítače

    Technologický podnik Elona Muska xAI získá od skupiny investorů investici 6 miliard dolarů na vývoj umělé inteligence (AI). Financování, které bylo oznámeno na internetových stránkách společnosti, je součástí kola série B. Mělo by výrazně urychlit uvedení prvních produktů xAI na trh a podpořit výzkumné úsilí.

    Skoro 30letá éra ICQ končí: Oblíbený komunikátor definitivně vypíná své služby

    Kdysi nesmírně populární komunikační nástroj ICQ definitivně končí. Služba, která v dobách svého největšího rozmachu měla přes 100 milionů uživatelů po celém světě, přestane fungovat od 26. června.

    Xiaomi opět kopíruje Apple. Tentokrát jeho kontroverzní reklamu

    Apple nedávno rozpoutal bouři kontroverzní reklamou na nový iPad Pro. V ní byly hudební nástroje a umělecké předměty slisovány do tenkého zařízení. Teď se zdá, že čínská technologická společnost Xiaomi se rozhodla využít této publicity ve své vlastní reklamě na Xiaomi 14 Civi. Je kopírování chytrým marketingovým tahem, nebo jen dalším příkladem nedostatečné kreativity?

    NEJNOVĚJŠÍ

    OpenAI zakládá bezpečnostní výbor. Bude dohlížet na výzkum a trénovat model nové generace

    Společnost OpenAI oznámila zřízení Výboru pro bezpečnost a zabezpečení, devítičlenného panelu, jehož úkolem je zajistit bezpečný průběh výzkumu strojového učení. Vede ho generální ředitel OpenAI Sam Altman a tři další ředitelé včetně předsedy správní rady Breta Taylora. Členyjsou také vedoucí inženýři Aleksander Madry, Lilian Weng, John Schulman, Matt Knight a Jakub Pachocki.

    Společnost xAI Elona Muska získala 6 miliard dolarů na vývoj umělé inteligence. Plánuje spuštění superpočítače

    Technologický podnik Elona Muska xAI získá od skupiny investorů investici 6 miliard dolarů na vývoj umělé inteligence (AI). Financování, které bylo oznámeno na internetových stránkách společnosti, je součástí kola série B. Mělo by výrazně urychlit uvedení prvních produktů xAI na trh a podpořit výzkumné úsilí.

    Skoro 30letá éra ICQ končí: Oblíbený komunikátor definitivně vypíná své služby

    Kdysi nesmírně populární komunikační nástroj ICQ definitivně končí. Služba, která v dobách svého největšího rozmachu měla přes 100 milionů uživatelů po celém světě, přestane fungovat od 26. června.

    Xiaomi opět kopíruje Apple. Tentokrát jeho kontroverzní reklamu

    Apple nedávno rozpoutal bouři kontroverzní reklamou na nový iPad Pro. V ní byly hudební nástroje a umělecké předměty slisovány do tenkého zařízení. Teď se zdá, že čínská technologická společnost Xiaomi se rozhodla využít této publicity ve své vlastní reklamě na Xiaomi 14 Civi. Je kopírování chytrým marketingovým tahem, nebo jen dalším příkladem nedostatečné kreativity?