Det du ikke ser i bildet, kan være farligere enn du aner

Forskerne fra Trail of Bits lastet opp høyoppløselige bilder til Googles AI-modell Gemini. Når systemet skalerte bildene ned for å behandle dem, dukket skjult tekst frem som instruksjoner. Disse beskjedene fikk AI-en til å hente ut kalenderinformasjon og sende den videre til forskernes e-post, uten at brukeren ble varslet.

Gamle metoder i ny drakt

Angrepsformen bygger på en kjent teknikk der såkalte aliasing-effekter oppstår når bilder nedskaleres. Tidligere ble slike metoder brukt til å lure eldre bildegjenkjenningssystemer. Nå viser det seg at samme prinsipp kan misbrukes til å plante skjulte kommandoer i moderne språkmodeller.

Risiko for misbruk

I demonstrasjonen ble kun Google Calendar utnyttet, men forskerne påpeker at metoden kan brukes i langt flere sammenhenger. Allerede finnes eksempler på at manipulerte kalenderinvitasjoner kan gi tilgang til smarthus. Når AI blir stadig mer integrert i både arbeid og hjem, øker også risikoen for at sårbarhetene utnyttes.

Hva dette betyr for brukere

Selv om forskerne understreker at dette foreløpig ikke er en vanlig angrepsvei, illustrerer testen hvordan kunstig intelligens kan brukes til å hacke andre AI-systemer. For brukere innebærer det at bilder, lenker og filer i stadig større grad må behandles med samme skepsis som tradisjonelle phishing-angrep.

Les mer: Ny minitelefon lover gratis internett