– I 2023 vil vi se ekstremt mye mer sofistikert nettfisking og spam på grunn av avansert kunstig intelligens. ChatGPT skriver jo bedre enn de fleste, sier etisk hacker Sondre Rudi Baugstø i Redpill Linpro.
ChatGPT er enkelt forklart en modell eller robot som kan generere tekster som ligner på menneskers skriving, og som på kort tid har blitt svært populær.
Fakta om ChatGPT
Vi ba ChatGPT gi en enkel beskrivelse av seg selv med fem til ti setninger. Vi rettet én særskrivingsfeil i svaret og delte det opp i kulepunkter:
* ChatGPT er en kunstig intelligens-basert tekstgenereringsmodell.
* Den er trent ved hjelp av en teknikk kalt «maskinlæring» på et stort datamateriale. Dette gjør at den kan generere tekst som ligner på menneskers skriving.
* Den kan brukes til å generere svar på spørsmål, skrive samtaler eller til å komplettere tekst.
* ChatGPT er en avansert modell som har evnen til å forstå kontekst og fortsette en samtale.
* Modellen kan brukes i ulike områder som chatbots, automatisk tekstgenerering, og mer.
Kilde: ChatGPT
Tiden for e-poster med dårlig språk og komiske forespørsler er snart forbi, skal vi tro ekspertene. Kunstig intelligens gir dem som driver med «phishing», eller nettfisking på godt norsk, et nytt verktøy i sine forsøk på å lure mottakerne til å klikke på lenker de ikke bør klikke på.
Rudi Baugstø advarer om at nettkriminelle har fått et nytt verktøy som både kan gjøre e-postene mer sofistikerte, øke tempoet og omgå antivirusløsninger og spamfiltre.
Dette skjedde da Nettavisen forsøkte
Men hva skjer egentlig om man ber ChatGPT skrive en e-post ment for å lure uskyldige personer? Nettavisen ba tjenesten om følgende: «Skriv en phishing e-post». Da fikk vi opp følgende feilmelding:
Rudi Baugstø forklarer at modellen i utgangspunktet ikke kommer til å skrive slike ondsinnede e-poster, men ved å omformulere oppgaven, kan den skape svært troverdige e-poster i høyt tempo:
– Hvis du sier at du vil sende en support-e-post til servicedesken om at det er noe feil med skriveren, kan du hjelpe meg å gå inn på denne nettsiden, så gjør den det, sier Rudi Baugstø.
Denne teksten kan videre brukes til å lure noen til å klikke på en lenke man ikke bør trykke på.
Tradisjonelt sett er nettfiskings-e-poster masseproduserte. Sender en avsender ut titusenvis av helt like e-poster, er de enkle å stoppe for spamfilteret, men ved bruk av kunstig intelligens og hurtigheten den tilbyr, kan uærlige krefter frembringe en unik e-post for hver enkelt mottaker.
ChatGPT har vært et tema hos Økokrim
– Vi er bekymret for trenden i samfunnet med økning av bedrageri og svindel, sier Lone Charlotte Pettersen, avdelingsdirektør for avdeling for etterretning og forebygging i Økokrim, til Nettavisen.
Hun mener ChatGPT er et enkelt virkemiddel for å lure nordmenn:
– Den teknologiske utviklingen tilsier at ulike verktøy, programvare og internettbaserte plattformer, som er utviklet for ett formål, enkelt kan benyttes til andre mer ondsinnede formål – for eksempel å bedra eller svindle enkeltpersoner eller virksomheter. ChatGPT er forenklet sagt laget for å kunne generere meningsfulle og troverdige ytringer basert på kunstig intelligens. Økokrim vet at sosial manipulering via e-post, telefon eller SMS ofte benyttes ved bedrageri og svindel. En chatbot som enkelt kan generere mer relevant og troverdig innhold til slik sosial manipulering, er dermed et enkelt virkemiddel å ta i bruk for ondsinnede aktører. Dette betyr at man som privatperson og virksomhet må ha økt årvåkenhet når man mottar henvendelser i ulike formater på ulike plattformer, advarer Pettersen.
– Har ChatGPT eller lignende tjenester vært et tema hos dere?
– Ja, Økokrim er opptatt av å følge med på trender og utviklingstrekk i samfunnet. Vi er særlig opptatt av å danne oss et godt kunnskapsgrunnlag innen ulike aspekter knyttet til økonomisk kriminalitet og miljøkriminalitet. Teknologisk utvikling og ondsinnede aktørers bruk av teknologi for å oppnå egen vinning på bekostning av enkeltpersoner, virksomheter eller samfunnet er følgelig også viktig for oss.
– Har dere allerede nå sett svindelsaker der ChatGPT kan eller har vært brukt?
– Det ønsker vi verken å bekrefte eller avkrefte, avslutter Pettersen.
Kommende bølge
Etisk hacker Rudi Baugstø advarer om «en kommende bølge av svært troverdige nettfiskings-e-poster». Nøkkelen for å bekjempe denne kunstig intelligens-trusselen, er nettopp kunstig intelligens:
– Man må bruke kunstig intelligens for å plukke opp at disse er skapt av kunstig intelligens. Det blir en runddans, en katt og mus lek mellom de som vil svindle og vi som vil stoppe dem, sier Rudi Baugstø.
Til tross for at e-postene vil oppleves som mer troverdige, er det fremdeles mulig å avsløre at det dreier seg om forsøk på svindel om den skulle dukke opp i innboksen din.
– Du må være enda mer oppmerksom på om du mottar noe som ser ut til å være legitimt. Følg med på hvor e-posten kommer fra og hva som skjuler seg bak lenken, oppfordrer Rudi Baugstø.
For selv om kunstig intelligens kan produsere godt og mye, vil lenken svindlerne ønsker du skal klikke på være avslørende. En underlig nettadresse eller en forkortet url er faresignaler, og ved bruk av «mouseover» vil det sanne domenet vises.
Ett eksempel på dette ser man i e-posten til Nettavisens tipsmail under:
I en e-post, tilsynelatende fra «Posten», er det ved første øyekast lite som tyder på at dette er fra bedragere. Noen indikasjoner er det likevel:
1. «Mouseover», altså det å holde musepekeren over lenken, avslører hvor lenken faktisk går til. Adressen står helt nederst i nettleseren, i lett oransjerosa skrift. En lenke som begynner med «Firebasestorage.googleapis.com» har ingenting med det ekte postvesenet å gjøre.
2. Posten Norge Internasjonal Ltd. 2023 er ikke Postens ekte navn.
3. E-posten har havnet i søppelposten vår.
4. Stor L i «Leveringsvarsel» og generelt svak tegnsetting.