Slik avslører du et KI-generert bilde

Rådet som gikk igjen for et par år siden — tell fingrene, se etter bokstaver som ikke blir ord — er i praksis ubrukelig nå. Bildemodellene har rettet nettopp de feilene, fordi det var de feilene alle snakket om. Skal du avsløre et syntetisk bilde i dag, må du slutte å lete etter feil i bildet og begynne å stille spørsmål ved historien rundt det.

Det er en viktig forskjell, og den gjør jobben enklere enn den høres ut. Du trenger sjelden å avgjøre om et bilde er ekte. Du trenger å avgjøre om du skal stole på personen eller annonsen som viser det fram.

Fire kontroller som fortsatt virker

1. Finn ut om bildet har vært brukt før. Et omvendt bildesøk tar femten sekunder og er fortsatt den enkleste avsløringen som finnes. Last bildet opp i en søkemotors bildesøk og se hvor ellers det dukker opp. Treffer du samme portrett på en nettside i et annet land, under et annet navn, er saken avgjort — uten at du har måttet vurdere en eneste piksel.

Det omvendte bildesøket har én stor begrensning: et nygenerert bilde finnes ikke noe annet sted, og gir derfor ingen treff. Null treff beviser altså ingenting. Det er treffene som har bevisverdi, ikke fraværet av dem.

2. Se på bakgrunnen, ikke på ansiktet. Modellene bruker mest kapasitet på det blikket ditt trekkes mot. Hovedmotivet blir som regel troverdig. Det som fortsatt glipper, ligger i utkanten: skilt og logoer som nesten stemmer, mønstre i tapet eller gulv som skifter takt midtveis, gjenstander som forsvinner bak en skulder og kommer ut på feil sted, refleksjoner i vinduer og briller som ikke svarer til rommet.

3. Sjekk om detaljene i bildet stemmer med det som påstås. Dette er den kontrollen som avslører flest saker, og den krever ingen teknologi. Er bildet fra Norge? Ser skiltene norske ut, er bilene registrert riktig vei, stemmer årstiden med løvet på trærne? En annonse som viser en hytte med sørlandsk flora og påstår at den ligger i Lofoten, er avslørt uten at du har sett på et eneste artefakt.

4. Spør hvor bildet kommer fra. Et ekte bilde har som regel en eier som kan ta et nytt. Be om et bilde til, tatt akkurat nå, gjerne med noe spesifikt i: en avis med dagens dato, gjenstanden sett fra en annen vinkel, hånden til den som eier den. Den som ikke kan fremskaffe det, har sjelden noe å vise fram. Dette er samme grep som vi anbefaler ved handel på bruktmarkedet, og det er fortsatt det mest effektive enkeltgrepet en privatperson har.

Hvorfor EXIF-data sjelden hjelper

Et kamera legger igjen en mengde opplysninger i bildefilen: modell, tidspunkt, blenderåpning, ofte posisjon. Det høres ut som en fasit, og mange kontrollrutiner bygger på nettopp det.

Problemet er at opplysningene som regel er borte lenge før bildet når deg. Sosiale medier, meldingstjenester og de fleste publiseringsløsninger fjerner metadata rutinemessig når et bilde lastes opp — dels for å spare båndbredde, dels for å beskytte personvernet til den som tok bildet. Et bilde som har vært innom en meldingsapp, er strippet. Da sier fraværet av EXIF-data ingenting om ektheten.

Det motsatte holder heller ikke. Metadata kan skrives inn manuelt med gratis verktøy. Et syntetisk bilde kan derfor komme med et fullstendig, troverdig og fullstendig oppdiktet kamerasett. EXIF-data kan bekrefte en historie, men aldri bevise den.

Det finnes et arbeid på gang med å løse dette skikkelig. C2PA er en teknisk standard der kameraet eller programvaren signerer bildet kryptografisk, slik at senere endringer kan spores. Den er på vei inn i både kameraer og redigeringsverktøy, men er ennå ikke noe du kan regne med å møte i en tilfeldig annonse.

Når bildet er en del av en svindel

Syntetiske bilder er sjelden målet i seg selv. De er kulissene. De tre stedene du møter dem oftest:

• Profilbilder. Et ansikt som ikke finnes, kan ikke spores. Derfor er det gull verdt i kjærlighetssvindel og i falske vennskap som bygges opp over uker.
• Annonser med kjente fjes. En kjent person som «anbefaler» en investering, er nå billig å produsere — både som bilde og som stemme. Mønstrene er gjennomgått i artikkelen om investeringsbedrageri og falske plattformer.
• Varer og boliger som ikke finnes. Leiligheten til leie, hytta, tilhengeren. Her er omvendt bildesøk fortsatt uvanlig effektivt, fordi svindleren som regel har hentet bildene et sted.

Felles for alle tre er at bildet ikke er beviset — det er lokkemiddelet. Kontrollen din bør derfor rette seg mot det som er vanskelig å forfalske: et kontonummer, et organisasjonsnummer, en adresse du kan besøke, en samtale på video som ikke var avtalt på forhånd. Hvordan du sjekker slike opplysninger mot en primærkilde, står i artikkelen om å sjekke en påstand mot kilden.

Video og stemme følger samme logikk

Det som gjelder for stillbilder, gjelder i økende grad for levende bilder og lyd. En stemme kan klones fra noen sekunders opptak, og korte videosnutter er blitt billige å produsere. Kontrollen er likevel den samme: se på sammenhengen framfor på selve opptaket.

Den mest brukte varianten mot privatpersoner er en telefonsamtale eller en talemelding fra noen som høres ut som et familiemedlem i knipe. Det virker fordi hastverk slår ut ettertanke. Motgrepet koster ingenting: legg på, og ring tilbake på nummeret du selv har lagret. Et avtalt kodeord i familien gjør samme nytte. Mønstrene er gjennomgått nærmere i artikkelen om når svindleren bruker kunstig intelligens.

Skal du vurdere en video: se etter om lyd og munn går i takt gjennom hele klippet, om lyssettingen på ansiktet svarer til rommet, og om klippet er mistenkelig kort. De fleste forfalskninger varer noen sekunder, fordi feilene vokser med lengden.

Når det er ditt eget bilde som brukes

Det motsatte problemet er like vanlig: at noen bruker ditt ansikt i en profil eller en annonse. Da er fremgangsmåten en annen.

Ta skjermbilde av profilen eller annonsen før du gjør noe annet — den forsvinner ofte raskt. Meld den til plattformen, som har egne rutiner for identitetsmisbruk. Blir bildet brukt i markedsføring uten samtykke, er det i tillegg et brudd på åndsverkloven og på personvernreglene, og du kan kreve det fjernet. Brukes identiteten din til å lure andre for penger, skal forholdet anmeldes — det er da et bedrageri, og du er fornærmet i saken selv om det ikke er dine penger som er borte. Hva et identitetsmisbruk krever av oppfølging ellers, står i artikkelen om ID-tyveri.

Skal du velge et verktøy for en virksomhet

Alt over er skrevet for deg som privatperson, med sekunder til rådighet og ingenting installert. Står du derimot i en redaksjon, et saksbehandlingsorgan eller en bedrift som skal standardisere på en kontrollrutine, er spørsmålene andre: hvilket presisjonsnivå kreves, hva analyserer verktøyet faktisk, og hva skjer med filene dine underveis.

De spørsmålene er gjennomgått i beslutningsgrunnlaget for kontroll i det digitale landskapet, som tar for seg både tekst-, bilde- og kjøretøykontroll fra en virksomhets side.

For deg som bare skal vurdere ett bilde i en annonse: gjør det omvendte bildesøket, og spør deg om bildet stemmer med historien. Det tar et halvt minutt og avgjør de fleste sakene.