Jan Leike, významný výzkumník v oblasti bezpečnosti ve společnosti OpenAI, která je zodpovědná za vývoj ChatGPT, rezignoval. Jeho odchod přišel jen několik dní po uvedení nejnovějšího modelu umělé inteligence společnosti, GPT-4o.
Leike ve společnosti OpenAI zastával pozici spolušéfa oddělení supervize. Zajišťoval, aby výkonné systémy umělé inteligence dodržovaly lidské hodnoty a cíle. Důvody svého rozhodnutí odejít naznačil v sérii příspěvků na platformě X, dříve známé jako Twitter, minulý pátek.
Důvodem jeho odchodu ze společnosti jsou podle Leikeho obavy z jejích priorit. Ty jsou podle něj více zaměřeny na vývoj produktů než na bezpečnost AI.
„V posledních letech se kultura bezpečnosti a procesy dostaly na druhou kolej před nablýskanými produkty,“ napsal.
🚨OpenAI's key figures resign!🚨
— K Creations (@kashifcreations) May 18, 2024
Co-founder Ilya Sutskever and Superalignment team leader Jan Leike leave over concerns with CEO Sam Altman's AI safety commitment.
Ex-employee Daniel Kokotajlo also cites lost trust. What's next for #AI safety at #OpenAI? pic.twitter.com/CYo8NFxQFn
Tým byl rozpuštěn
Přestože podrobnosti Leikeho odchodu zůstávají nezveřejněny, jeho odchod ze společnosti těsně po vydání GPT-4o vyvolal v komunitě AI spekulace. Jako klíčová postava týmu pro výzkum bezpečnosti by Leikeho odchod mohl potenciálně ovlivnit budoucí vývoj a bezpečnostní protokoly modelů AI společnosti OpenAI.
Společnost OpenAI se k Leikeho odchodu zatím nevyjádřila, ani neoznámila nástupce na jeho pozici. Rezignace však znamená, že po rezignaci Ilji Sutskevera, spoluzakladatele OpenAI, odešli ve stejný týden z OpenAI dva vedoucí představitelé v oblasti bezpečnosti.
Po nedávných rezignacích se OpenAI rozhodla tým „Superalignment“ rozpustit a začlenit jeho funkce do jiných výzkumných projektů v rámci organizace. Toto rozhodnutí je údajně důsledkem probíhající interní restrukturalizace, která byla zahájena v reakci na krizi řízení v listopadu 2023.
