Společnost Apple stáhla z beta verze softwaru pro iPhone souhrny zpráv generované umělou inteligencí. Důvodem jsou opakované nepřesnosti. Cílem společnosti je technologii vylepšit a poté ji znovu zavést v některé z budoucích aktualizací operačního systému iOS.
Apple oznámil dočasné pozastavení funkce umělé inteligence (AI) zodpovědné za generování zpravodajských upozornění, která vykazovala nepřesnosti. Toto rozhodnutí bylo odhaleno v aktualizaci beta verze připravovaného operačního systému iOS 18.3. Funkce je v současné době dostupná pouze vybrané skupině uživatelů iPhonů a vývojářů. Pravděpodobně brzy po ukončení testovacích fází však bude zahrnuta do obecněji dostupné aktualizace.
Apple sidelines AI news summaries due to errors.
— AFP News Agency (@AFP) January 17, 2025
Apple's decision to temporarily disable the recently launched AI feature comes after the BBC and other news organizations complained that users were getting mistake-riddled or outright wrong headlines or news summary alerts… pic.twitter.com/T9rFqAlvcZ
Ve vydání beta verze společnost Apple uvedla, že vypne souhrny zpráv a zábavy řízené umělou inteligencí, dokud nezjistí a neodstraní problémy vedoucí k tomu, co se často označuje jako „halucinace“. Tyto problémy v podstatě znamenají, že technologie produkuje vymyšlené informace. Apple se ocitl pod tlakem různých mediálních organizací, včetně BBC, které zaznamenaly značné chyby ve zpravodajských upozorněních zasílaných uživatelům. Jedno chybné upozornění například tvrdilo, že „Luigi Mangione se zastřelil“, přestože k žádnému takovému incidentu nedošlo.
Kritika ze strany mediálních organizací
Nepravdivá upozornění vyvolala obavy mezi pracovníky médií. Organizace Reportéři bez hranic v čele s Vincentem Berthierem zavedení této funkce kritizovala. Uvedla, že „automatizovaná produkce nepravdivých informací připisovaných médiu je ranou pro jeho důvěryhodnost a ohrožuje právo veřejnosti na spolehlivé informace o aktuálním dění“.
Situace kolem zpravodajské funkce od Applu založené na umělé inteligenci je paralelní s problémy, kterým čelí jiné společnosti, které se při správě informací ve velké míře spoléhají na umělou inteligenci. K podobným incidentům již došlo, například v případě nesprávných souhrnů generovaných AI společnosti Google v loňském roce. Šíření nepravdivých informací si vyžádalo revizi jejího vyhledávače. Problémy spojené s „halucinacemi“ AI, kdy systémy vytvářejí zdánlivě věrohodné, ale zcela nesprávné informace, odhalují kritický nedostatek, který má dopad na důvěru uživatelů a celkovou životaschopnost takové technologie.
Rozhodnutí společnosti Apple zakázat problematickou funkci představuje významný krok zpět pro její ambice začlenit schopnosti umělé inteligence do svých produktů. Zejména po uvedení iPhonu 16, který obsahuje potřebný čip pro „Apple Intelligence“. Společnost sice usiluje o vylepšení této funkce a její obnovení v budoucích aktualizacích, uznává však, že před jejím opětovným uvedením na trh je třeba vyřešit tyto zásadní problémy.
