Společnost OpenAI oznámila zřízení Výboru pro bezpečnost a zabezpečení, devítičlenného panelu, jehož úkolem je zajistit bezpečný průběh výzkumu strojového učení. Vede ho generální ředitel OpenAI Sam Altman a tři další ředitelé včetně předsedy správní rady Breta Taylora. Členy jsou také vedoucí inženýři Aleksander Madry, Lilian Weng, John Schulman, Matt Knight a Jakub Pachocki.
Vytvoření tohoto výboru následuje po nedávném rozpuštění týmu Superalignment, interní skupiny zabývající se bezpečností AI. Tým Superalignment, který vedli spoluzakladatel OpenAI Ilja Sutskever a Jan Leike, se zaměřoval na zmírňování potenciálních rizik, která představují budoucí systémy umělé inteligence. Na začátku tohoto měsíce členové týmu Superalignment buď rezignovali, nebo přešli do jiných týmů v rámci společnosti.
Prvním úkolem nově vytvořeného výboru pro bezpečnost a zabezpečení bude identifikovat způsoby, jak zlepšit pracovní postupy pro zmírnění rizik spojených s AI. Doporučení výboru budou do 90 dnů předložena celému představenstvu společnosti OpenAI a poté společnost plánuje veřejně zveřejnit, která doporučení zavede.
US-based technology firm, OpenAI, the owner of ChatGPT, forms a safety and security committee responsible for making recommendations on the company’s projects and operations https://t.co/daAPWeoZl8 pic.twitter.com/RonWdIANPs
— Anadolu English (@anadoluagency) May 28, 2024
Nový model Frontier
Současně s oznámením výboru společnost OpenAI také prozradila, že její inženýři začali trénovat svůj další model Frontier. Společnost předpokládá, že tyto systémy zvýší své schopnosti na cestě k dosažení umělé obecné inteligence (AGI), hypotetického modelu umělé inteligence budoucnosti, který bude schopen vykonávat širokou škálu úkolů s přesností podobnou lidské.
Technická ředitelka společnosti OpenAI Mira Muratiová nedávno naznačila „významnou aktualizaci“ modelu GPT-4, která by měla debutovat ještě letos. Měla by být významnější než vylepšená verze velkého jazykového modelu GPT-4o, podrobně popsaná zhruba před dvěma týdny. Zatím není jasné, zda půjde o vylepšenou verzi modelu GPT-4, nebo o zcela nový systém umělé inteligence.
Technologický ředitel společnosti Microsoft Kevin Scott přirovnal systém OpenAI, který se při výzkumu AI ve velké míře spoléhá na grafické karty umístěné ve veřejném cloudu společnosti Microsoft Corp., ke kosatce. Model nové generace přirovnal k velrybě. To naznačuje, že chystaný jazykový model bude obsahovat více parametrů, které jsou klíčové pro určení způsobu, jakým neuronová síť zpracovává data.
Zvěsti naznačují, že společnost OpenAI již možná vyvinula prototyp svého jazykového modelu nové generace. V březnu Business Insider informoval, že verze GPT-5 byla zpřístupněna omezenému počtu uživatelů. Jeden z uživatelů ji popsal jako „podstatně lepší“ než GPT-4.
