14.6 C
Czech
Pondělí 8. září 2025

Chatbota lze zmanipulovat lichotkami i mírným nátlakem

Výzkumy i reálné incidenty ukazují, že dnešní AI chatboti nejsou tak odolní, jak by se mohlo zdát. Jednoduché psychologické triky, jako lichotky nebo navození dojmu nátlaku skupiny, dokážou obejít jejich bezpečnostní zábrany. To má vážné důsledky pro oblast bezpečnosti i šíření dezinformací.

Chipolo představuje nové dobíjecí trackery Loop a Card

Slovinský výrobce Chipolo uvádí na trh své první dobíjecí Bluetooth trackery, kulatý Loop a tenký Card. Oba modely nabídnou půlroční výdrž baterie, voděodolnost a kompatibilitu s Apple i Google ekosystémem.

Phi-4: Menší model umělé inteligence společnosti Microsoft poráží v uvažování větší konkurenty

Nově představený model umělé inteligence společnosti Microsoft, Phi-4, stanovuje standardy pro efektivní výpočty a matematické uvažování. S pouhými 14 miliardami parametrů překonává větší modely, řeší složité problémy a zároveň výrazně snižuje výpočetní nároky. Tato inovace slibuje revoluci v dostupnosti umělé inteligence.

Reklama

Společnost Microsoft nedávno představila svůj nejnovější model umělé inteligence (AI) Phi-4. Je navržen tak, aby vynikal matematickým uvažováním a efektivním zpracováním. S pouhými 14 miliardami parametrů Phi-4 prokázal schopnost překonat větší modely, včetně Gemini Pro 1.5 společnosti Google a GPT-4o společnosti OpenAI. V tomto odvětví jsou často považovány za referenční modely.

Tento inovativní model mění pohled na vývoj umělé inteligence. Zaměřuje se spíše na efektivitu než na pouhé škálování počtu parametrů. Phi-4 otevírá dveře mnoha podnikům, zejména středně velkým organizacím, které dříve čelily překážkám kvůli vysokým výpočetním nákladům spojeným s většími modely.

Ve specializovaných oblastech mohou menší modely vyniknout

Phi-4 vyniká zejména svými schopnostmi v oblasti matematického uvažování, kde vykazuje působivé výsledky ve standardizovaných testech, jako je například americká matematická soutěž Mathematical Association of America (AMC).

„Phi-4 překonává srovnatelné a dokonce i větší modely v úlohách, jako je matematické uvažování,“ zdůraznil Microsoft. Úspěch přičítá komplexnímu tréninkovému procesu, který kombinuje vysoce kvalitní syntetické datové sady a kurátorovaná organická data. Ilustruje, že menší modely mohou být ve specializovaných oblastech, jako je vědecký výzkum, inženýrství a finanční modelování, stejně účinné, ne-li účinnější.

Cílem projektu je prozkoumat efektivitu menších modelů

Model, který je umístěn na platformě Azure AI Foundry, je k dispozici na základě licenční smlouvy pro výzkum. V rámci zajištění bezpečnosti a zmírnění rizik spojených s nasazením umělé inteligence Microsoft začlenil pokročilá bezpečnostní opatření. Včetně nástrojů pro filtrování obsahu a monitorování. Tyto funkce usnadňují vývojářům posuzování kvality modelu a řešení případného zneužití. „Cílem projektu Phi-4 je prozkoumat efektivitu menších modelů při zachování přesnosti,“ uvedli výzkumníci společnosti Microsoft.

Očekává se, že s vývojem prostředí umělé inteligence přiměje vydání Phi-4 organizace k přehodnocení vztahů mezi velikostí modelu a jeho výkonností. S výsledkem 80,4 v benchmarku MATH je Phi-4 velmi atraktivní pro aplikace vyžadující přesnost uvažování. Vzhledem ke své efektivitě a robustním bezpečnostním prvkům by Phi-4 mohl nově definovat způsob, jakým podniky využívají umělou inteligenci. A otevřít tak cestu pokročilým aplikacím a zároveň podpořit jejich zodpovědné využívání.

Reklama
Reklama

Sledujte nás na sítích

Lenovo předvedlo laptop s otočnou obrazovkou

Lenovo se znovu pustilo do experimentování s konstrukcí notebooků. Zatímco většina výrobců sází na ultratenké modely, Lenovo přináší originální nápady. Po rolovacích displejích nebo skládacích panelech teď ukázalo ThinkBook VertiFlex Concept. Laptop, jehož obrazovku lze snadno přetočit do portrétního režimu.

Luna Ring 2.0 spojuje chytré funkce a výdrž

Indická značka Noise představila chytrý prsten Luna Ring 2.0. Cílí přímo na konkurenty jako Oura nebo Galaxy Ring, ale bez měsíčních poplatků. První generace nebyla veřejně dostupná, dvojka však startuje naplno a rovnou na veletrhu IFA 2025.

Google Photos získává Veo 3 pro tvorbu videí z fotek

Google nasadil nový model Veo 3 do aplikace Google Photos. Uživatelé tak mohou ze statických snímků okamžitě vytvářet krátká videa. Funkce se nachází v záložce Create, která sdružuje kreativní nástroje poháněné umělou inteligencí.

Instagram má konečně aplikaci pro iPad

Trvalo to patnáct let, ale je to tu. Instagram spustil vlastní aplikaci pro iPad. Uživatelé tak už nemusí sahat po nepovedené verzi pro iPhone nebo webu. Nová verze je přizpůsobená větší obrazovce a nabízí téměř všechny funkce, na které jsme zvyklí z telefonu.

Gmail není ohrožen, varování o změně hesla jsou falešná

Zprávy, které o víkendu obletěly internet, tvrdily, že 2,5 miliardy uživatelů Gmailu musí okamžitě změnit své heslo. Mělo jít o reakci na „masivní únik dat“ a „nouzovou výzvu“ Googlu. Pravda je ale jiná. Podle Googlu jsou takové zprávy zcela nepravdivé.

Chatbota lze zmanipulovat lichotkami i mírným nátlakem

Výzkumy i reálné incidenty ukazují, že dnešní AI chatboti nejsou tak odolní, jak by se mohlo zdát. Jednoduché psychologické triky, jako lichotky nebo navození dojmu nátlaku skupiny, dokážou obejít jejich bezpečnostní zábrany. To má vážné důsledky pro oblast bezpečnosti i šíření dezinformací.

Bose vylepšuje téměř dokonalá sluchátka

Druhá generace bezdrátových špuntů Bose QuietComfort Ultra přichází s minimálními změnami. Původní model byl považován za špičku v oblasti aktivního potlačení hluku, pohodlí i zvuku. Novinka si zachovává to dobré a přidává pár vylepšení.

Honor Magic V5 dorazil do Evropy jako nejtenčí skládací telefon

Honor přiváží do Evropy nový Magic V5. Je extrémně tenký, má výkonný hardware, zajímavé AI funkce a pořádný foťák. Ale velký hrbol na zadní straně je kompromis, který nelze přehlédnout.

DJI Mic 3 zmenšil velikost, ale přidal nové funkce

DJI představil nový model bezdrátového mikrofonu Mic 3. Je menší, lehčí a chytřejší než jeho předchůdci. Přesto nabízí lepší zvuk, nové režimy nahrávání a možnost záznamu až čtyř osob najednou.
Reklama

NEJNOVĚJŠÍ

Lenovo předvedlo laptop s otočnou obrazovkou

Lenovo se znovu pustilo do experimentování s konstrukcí notebooků. Zatímco většina výrobců sází na ultratenké modely, Lenovo přináší originální nápady. Po rolovacích displejích nebo skládacích panelech teď ukázalo ThinkBook VertiFlex Concept. Laptop, jehož obrazovku lze snadno přetočit do portrétního režimu.

Luna Ring 2.0 spojuje chytré funkce a výdrž

Indická značka Noise představila chytrý prsten Luna Ring 2.0. Cílí přímo na konkurenty jako Oura nebo Galaxy Ring, ale bez měsíčních poplatků. První generace nebyla veřejně dostupná, dvojka však startuje naplno a rovnou na veletrhu IFA 2025.

Google Photos získává Veo 3 pro tvorbu videí z fotek

Google nasadil nový model Veo 3 do aplikace Google Photos. Uživatelé tak mohou ze statických snímků okamžitě vytvářet krátká videa. Funkce se nachází v záložce Create, která sdružuje kreativní nástroje poháněné umělou inteligencí.

Instagram má konečně aplikaci pro iPad

Trvalo to patnáct let, ale je to tu. Instagram spustil vlastní aplikaci pro iPad. Uživatelé tak už nemusí sahat po nepovedené verzi pro iPhone nebo webu. Nová verze je přizpůsobená větší obrazovce a nabízí téměř všechny funkce, na které jsme zvyklí z telefonu.

Gmail není ohrožen, varování o změně hesla jsou falešná

Zprávy, které o víkendu obletěly internet, tvrdily, že 2,5 miliardy uživatelů Gmailu musí okamžitě změnit své heslo. Mělo jít o reakci na „masivní únik dat“ a „nouzovou výzvu“ Googlu. Pravda je ale jiná. Podle Googlu jsou takové zprávy zcela nepravdivé.

Chatbota lze zmanipulovat lichotkami i mírným nátlakem

Výzkumy i reálné incidenty ukazují, že dnešní AI chatboti nejsou tak odolní, jak by se mohlo zdát. Jednoduché psychologické triky, jako lichotky nebo navození dojmu nátlaku skupiny, dokážou obejít jejich bezpečnostní zábrany. To má vážné důsledky pro oblast bezpečnosti i šíření dezinformací.

Bose vylepšuje téměř dokonalá sluchátka

Druhá generace bezdrátových špuntů Bose QuietComfort Ultra přichází s minimálními změnami. Původní model byl považován za špičku v oblasti aktivního potlačení hluku, pohodlí i zvuku. Novinka si zachovává to dobré a přidává pár vylepšení.

Honor Magic V5 dorazil do Evropy jako nejtenčí skládací telefon

Honor přiváží do Evropy nový Magic V5. Je extrémně tenký, má výkonný hardware, zajímavé AI funkce a pořádný foťák. Ale velký hrbol na zadní straně je kompromis, který nelze přehlédnout.

DJI Mic 3 zmenšil velikost, ale přidal nové funkce

DJI představil nový model bezdrátového mikrofonu Mic 3. Je menší, lehčí a chytřejší než jeho předchůdci. Přesto nabízí lepší zvuk, nové režimy nahrávání a možnost záznamu až čtyř osob najednou.
Reklama
Reklama
Reklama