Den nye, kinesiske, generative AI – DeepSeek – har på kort tid fået en imponerende effekt på hele markedet for AI. Men også de cyberkriminelle har fået øjnene op for den nye kunstige intelligens, og de har hurtigt rettet deres øje mod et nyt, potentielt lukrativt, marked.
Selvom DeepSeek kun har ganske få uger på bagen, så har sikkerhedsforskere allerede opdaget en række angreb, der forsøger at kapitalisere på den. Herudover så granskes DeepSeek for sin håndtering af privatliv og sikkerhedshåndtering, og det har allerede vist sikkerhedsrisici mod denne og andre AI-modeller.
Et eksempel, som kommer fra en bruger på X, fortæller om et website, der udgiver sig for at være det officielle for DeepSeek. Det forsøger at lokke brugere til at downloade – hvad der udgiver sig for at være – DeepSeeks AI-model. Men naturligvis så får de uheldige ikke sprogmodellen, men i stedet en fil ned på computeren.
En forskel er dog, at hvor der på den officielle hjemmeside er en knap, hvorpå der står ”Start Now”, så står der ”Download Now” på den falske.
Der er flere andre, der rapporterer om domæner, der minder om det officielle DeepSeek-site, og alle forsøger at overbevise de besøgende om, at de er endt det rigtige sted. Men naturligvis forsøger de at franarre folk deres data eller penge med forskellige midler, blandt andet ved at lokke dem til falske investeringer.
DeepSeek selv har oplyst, at det har været mål for større cyberangreb, og det fik det til at lukke for registrering af nye brugere i en periode.
Der har også været et tilfælde af lækkede API-nøgler, system-logs, brugeres chat-prompter og andre følsomme informationer. DeepSeek selv har efterfølgende sikret databasen, men de lækkede data er og bliver lækkede.
Sikkerhedsfirmaerne KELA og Palo Alto Networks har også opdaget, at DeepSeeks AI-model er sårbar over for såkaldte ondsindede jailbreak-angreb, og deres sikkerhedsforanstaltninger kan omgås og generere ondsindede outputs, herunder ransomware og instruktioner for, hvordan man kan fremstille toksiner og eksplosiver.
Uanset hvad der er nyt og spændende, så er cyberbanditterne hurtige til at springe med på bølgen og bruge de nye muligheder, som f.eks. en ny AI giver dem.
Så for at beskytte dig selv, hvis du vælger at ville bruge DeepSeek (den letteste beskyttelse er at undlade at bruge den), skal du være meget opmærksom på e-mails eller beskeder på sociale medier, der forsøger at hægte sig på den popularitet, som DeepSeek har i øjeblikket.
DeepSeek, og andre AI-modeller, kan bruges til at fremstille meget overbevisende phishing-kampagner og social engineerings-angreb. Det er årsagen til, at du skal være meget opmærksom på beskeder, der kommer uventet.
Det gælder, som altid, specielt beskeder, der virker til at være ’for gode til at være sande’, uanset om det er konkurrencer, investeringsmuligheder eller supergode tilbud. Mange af disse phishing-angreb kan kendes på, at de forsøger at lokke dig til at handle her og nu, så du ikke når at tænke dig om.
Som jeg har skrevet så ofte før, så lad være, og hvis du mener, der kan være noget som snakken, så kontakt i stedet firmaet, der angiveligt står bag beskeden. I langt de fleste tilfælde vil du finde ud af, at beskeden er falsk.
Et andet råd, som jeg også ofte har givet, er, at du slår 2-faktor-godkendelse til på alle de konti, hvor det er muligt. Det vil gøre det sværere for cyberbanditterne at få adgang til dine konti.
God sikkerhed på tværs af dine enheder og konti vil også gøre det sværere for de cyberkriminelle.
Tilbage til DeepSeek, og andre AI-modeller, så vær forsigtig med, hvilke data du giver den. Det gælder ikke mindst navne, mailadresser og følsomme personlige informationer og naturligvis informationer, som hører til din virksomhed.
