Server BBC Panorama nedávno informoval o sérii umělou inteligencí zfalšovaných fotografií, které na sociálních sítích sdíleli Trumpovi příznivci. Cílí tak v předvolební kampani na voliče tmavé pleti.
Obrázky, na nichž je Trump zobrazen s rukama kolem ramen černošských příznivců, se mohou zdát neškodné. Podtrhují však sílu nástrojů umělé inteligence vytvářet přesvědčivé obrázky, které by mohly ovlivnit veřejné mínění.
Trump supporters target black voters with faked AI images https://t.co/9NOC59jSw9
— BBC News (World) (@BBCWorld) March 4, 2024
Odborníci varují před dezinformacemi
V době, kdy se rozhořívá kampaň před prezidentskými volbami v USA v roce 2024, odborníci varují, že používání generativních nástrojů umělé inteligence může vést k bezprecedentní míře dezinformací. Kampaň, v níž Donald Trump vyzve současného prezidenta Joea Bidena, je první, která se odehrává uprostřed revoluce generativní umělé inteligence. Tu vyvolalo vydání ChatGPT v listopadu 2022.
Nástroje generativní AI, které dokáží na základě podnětů uživatele vytvářet nový text, obrázky, zvuk nebo video, nebyly nikdy jednodušší. To vede k obavám z kampaní plných „fake news“ (falešných zpráv) vytvořených umělou inteligencí. Kandidáty mohou očerňovat obrázky vytvořené umělou inteligencí a fámy šířené online roboty na základě podnětů umělé inteligence.
Steven Buckley, přednášející v oboru médií a komunikace na City, University of London, vyjádřil znepokojení nad používáním obrázků vytvořených umělou inteligencí v rámci Trumpovy kampaně. Poznamenal však také, že takový obsah by byl pravděpodobně pod intenzivní kontrolou médií, což by snížilo šance na jejich široké rozšíření.
Vytvářet je budou spíše jednotlivci
Agnes Venema, akademická pracovnice v oblasti národní bezpečnosti a zpravodajství na Maltské univerzitě, předpovídá, že se bude zvyšovat počet deepfakes. Ty budou vytvářet spíše volně spojení jednotlivci a náhodní příznivci než státem sponzorované nebo úzce koordinované kampaně. Varuje před deepfakes, které jsou využívány ke zkreslování politických postojů kandidátů a k vytváření škodlivého obsahu.
Venema také upozorňuje na možnost „lhářské dividendy“: schopnost kandidátů odmítnout skutečné, ale škodlivé záběry jako falešné v důsledku převahy obsahu vytvořeného umělou inteligencí. Vyzývá k informovanosti veřejnosti o deepfakes s umělou inteligencí a k přijetí legislativy, která by se zabývala tvůrci a platformami, které je šíří.
„Záměrné klamání kvalifikovaných voličů s cílem zabránit jim volit je potlačování voleb. To je federální zločin,“ uvedla Venema. Uznává však, že stíhání jednotlivců za šíření dezinformací vytvořených umělou inteligencí je náročné.
