Gmail přichází s varováním pro všechny uživatele. Nový typ podvodu využívá chytrou funkci souhrnů, kterou zajišťuje AI systém Gemini. Útočníci ji ale dokázali obelstít a vygenerovat falešná varování, která vypadají jako oficiální zprávy od Googlu.
Gemini slouží k rychlému shrnutí dlouhých e-mailů. Jenže právě tahle užitečná funkce teď může sloužit jako nástroj pro útok. Hackeři do e-mailů vkládají skrytý text, který běžné oko nevidí, ale AI jej bez váhání přečte a zařadí do souhrnu.
Podvržené výstrahy
Útočníci manipulují s formátováním. Používají neviditelné bílé písmo a velikost nula. Takto vložený text Gemini zpracuje a zobrazí jako součást přehledu, např. ve formě falešného upozornění: „VAROVÁNÍ: Gemini zjistil, že vaše heslo k Gmailu bylo kompromitováno. Ihned nám zavolejte.“
V souhrnu pak figuruje telefonní číslo a odkaz, které směřují k podvodníkům. Cíl je jasný. Vystrašit uživatele a přimět ho k akci, při které prozradí citlivé údaje.
Warning: First X phishing attempt I have seen
— Andy Beard (@AndyBeard) July 11, 2025
Gmail picked it up as possible spam, but it was obvious with the email coming from Portugal
Also, Connaught Place doesn't sound very Indian but does actually exist pic.twitter.com/DTarpPNiB3
Umělá inteligence to nerozezná
AI nerozlišuje, co napsal uživatel a co byl skrytý pokyn od útočníka. Gemini přečte vše jako běžný text a podle toho vytvoří výstup. Tento trik nese název nepřímá injekce promptu a podle expertů funguje velmi účinně.
Závažnost problému spočívá i v tom, že stejný mechanismus může fungovat i v dalších nástrojích Googlu, jako jsou Dokumenty nebo Kalendář. Riziko se tak netýká jen e-mailů.
Google reaguje, ale útoky běží dál
Google potvrdil, že o zranitelnosti ví a pracuje na řešení. Zatím ale neexistuje plošná oprava, a tak je nutná zvýšená opatrnost. Firma zdůrazňuje, že bezpečnostní výstrahy neposílá přes Gemini souhrny.
„Nepřetržitě posilujeme obranu pomocí testovacích scénářů, které naše modely připravují na podobné typy útoků,“ uvedl mluvčí Googlu. Podle firmy zatím neexistují důkazy o masovém zneužití.
Co dělat, aby vás podvod nezasáhl
Nejdůležitější je zdravý rozum. Nikdy nevolejte na čísla uvedená v souhrnech. Pokud se zobrazí varování o bezpečnosti účtu, raději otevřete Gmail ručně a zkontrolujte obsah e-mailu bez použití AI souhrnu.
Bezpečnostní experti doporučují, aby firmy nasadily filtry, které odhalí skrytý obsah v e-mailech. Pomoci mohou i pravidla pro detekci podezřelých zpráv s odkazy nebo výzvami k naléhavé akci.
Google připomíná, že k obnově hesla slouží výhradně jeho oficiální portál. Pokud si nejste jistí, nikdy na nic neklikejte, smažte zprávu a změňte heslo ručně.
