Více
    9.1 C
    Czech
    Čtvrtek 13. června 2024

    OpenAI zakládá bezpečnostní výbor. Bude dohlížet na výzkum a trénovat model nové generace

    Společnost OpenAI oznámila zřízení Výboru pro bezpečnost a zabezpečení, devítičlenného panelu, jehož úkolem je zajistit bezpečný průběh výzkumu strojového učení. Vede ho generální ředitel OpenAI Sam Altman a tři další ředitelé včetně předsedy správní rady Breta Taylora. Členy jsou také vedoucí inženýři Aleksander Madry, Lilian Weng, John Schulman, Matt Knight a Jakub Pachocki.

    Vytvoření tohoto výboru následuje po nedávném rozpuštění týmu Superalignment, interní skupiny zabývající se bezpečností AI. Tým Superalignment, který vedli spoluzakladatel OpenAI Ilja Sutskever a Jan Leike, se zaměřoval na zmírňování potenciálních rizik, která představují budoucí systémy umělé inteligence. Na začátku tohoto měsíce členové týmu Superalignment buď rezignovali, nebo přešli do jiných týmů v rámci společnosti.

    Prvním úkolem nově vytvořeného výboru pro bezpečnost a zabezpečení bude identifikovat způsoby, jak zlepšit pracovní postupy pro zmírnění rizik spojených s AI. Doporučení výboru budou do 90 dnů předložena celému představenstvu společnosti OpenAI a poté společnost plánuje veřejně zveřejnit, která doporučení zavede.

    Nový model Frontier

    Současně s oznámením výboru společnost OpenAI také prozradila, že její inženýři začali trénovat svůj další model Frontier. Společnost předpokládá, že tyto systémy zvýší své schopnosti na cestě k dosažení umělé obecné inteligence (AGI), hypotetického modelu umělé inteligence budoucnosti, který bude schopen vykonávat širokou škálu úkolů s přesností podobnou lidské.

    Technická ředitelka společnosti OpenAI Mira Muratiová nedávno naznačila „významnou aktualizaci“ modelu GPT-4, která by měla debutovat ještě letos. Měla by být významnější než vylepšená verze velkého jazykového modelu GPT-4o, podrobně popsaná zhruba před dvěma týdny. Zatím není jasné, zda půjde o vylepšenou verzi modelu GPT-4, nebo o zcela nový systém umělé inteligence.

    Technologický ředitel společnosti Microsoft Kevin Scott přirovnal systém OpenAI, který se při výzkumu AI ve velké míře spoléhá na grafické karty umístěné ve veřejném cloudu společnosti Microsoft Corp., ke kosatce. Model nové generace přirovnal k velrybě. To naznačuje, že chystaný jazykový model bude obsahovat více parametrů, které jsou klíčové pro určení způsobu, jakým neuronová síť zpracovává data.

    Zvěsti naznačují, že společnost OpenAI již možná vyvinula prototyp svého jazykového modelu nové generace. V březnu Business Insider informoval, že verze GPT-5 byla zpřístupněna omezenému počtu uživatelů. Jeden z uživatelů ji popsal jako „podstatně lepší“ než GPT-4.

    Sledujte nás na sítích

    Americké antimonopolní úřady budou vyšetřovat Microsoft, Nvidii a OpenAI kvůli dominantnímu postavení na trhu umělé inteligence

    Americké antimonopolní úřady se podle zdrojů blízkých této záležitosti chystají prošetřit roli technologických gigantů Microsoft, Nvidia a OpenAI v rozvíjejícím se odvětví umělé inteligence (AI). Ministerstvo spravedlnosti (DOJ) a Federální obchodní komise (FTC) si údajně rozdělí kompetence v rámci dohody, která by mohla být dokončena tento týden.

    Závislost na internetu mění chemii mozku u dospívajících a vede k návykovému chování, ukazuje studie UCL

    Nedávná studie naznačuje, že u mladých lidí trpících závislostí na internetu dochází ke změnám v chemii jejich mozku. To může vést k návykovému chování. Výzkum publikovaný v časopise PLOS Mental Health analyzoval předchozí studie, které využívaly funkční magnetickou rezonanci (fMRI) ke zkoumání interakce mozkových oblastí u jedinců se závislostí na internetu.

    Modely iPhone 16 Pro překonají světový rekord s nejtenčími rámečky

    Světová vývojářská konference společnosti Apple (WWDC) je sice za rohem, ale to ještě neznamená, že by se kolem iPhonu 16 přestalo šuškat. Nedávná pondělní zpráva vrhla více světla na design nadcházejícího modelu a naznačila rekordní ultratenké rámečky.

    ChatGPT čelil dvěma velkým výpadkům v jeden den

    Oblíbený chatbot s umělou inteligencí (AI) společnosti OpenAI, ChatGPT, v úterý zaznamenal druhý velký výpadek. Způsobil narušení práce mnoha uživatelů, kteří se na něj spoléhají jako na klíčový nástroj produktivity.

    NEJNOVĚJŠÍ

    Americké antimonopolní úřady budou vyšetřovat Microsoft, Nvidii a OpenAI kvůli dominantnímu postavení na trhu umělé inteligence

    Americké antimonopolní úřady se podle zdrojů blízkých této záležitosti chystají prošetřit roli technologických gigantů Microsoft, Nvidia a OpenAI v rozvíjejícím se odvětví umělé inteligence (AI). Ministerstvo spravedlnosti (DOJ) a Federální obchodní komise (FTC) si údajně rozdělí kompetence v rámci dohody, která by mohla být dokončena tento týden.

    Závislost na internetu mění chemii mozku u dospívajících a vede k návykovému chování, ukazuje studie UCL

    Nedávná studie naznačuje, že u mladých lidí trpících závislostí na internetu dochází ke změnám v chemii jejich mozku. To může vést k návykovému chování. Výzkum publikovaný v časopise PLOS Mental Health analyzoval předchozí studie, které využívaly funkční magnetickou rezonanci (fMRI) ke zkoumání interakce mozkových oblastí u jedinců se závislostí na internetu.

    Modely iPhone 16 Pro překonají světový rekord s nejtenčími rámečky

    Světová vývojářská konference společnosti Apple (WWDC) je sice za rohem, ale to ještě neznamená, že by se kolem iPhonu 16 přestalo šuškat. Nedávná pondělní zpráva vrhla více světla na design nadcházejícího modelu a naznačila rekordní ultratenké rámečky.

    ChatGPT čelil dvěma velkým výpadkům v jeden den

    Oblíbený chatbot s umělou inteligencí (AI) společnosti OpenAI, ChatGPT, v úterý zaznamenal druhý velký výpadek. Způsobil narušení práce mnoha uživatelů, kteří se na něj spoléhají jako na klíčový nástroj produktivity.