OpenAI har utestengt flere kontoer som kommer fra Kina som misbrukte ChatGPT-teknologien for å utvikle et AI-drevet overvåkingsverktøy for sosiale medier. Disse kontoene brukte ChatGPT til å skrive salgsoppslag og feilsøkingskode for et program designet for å overvåke anti-kinesisk sentiment på tvers av plattformer som X (tidligere Twitter), Facebook, YouTube og Instagram. Verktøyet hadde som mål å identifisere oppfordringer til protester mot menneskerettighetsbrudd i Kina, med hensikt å dele denne innsikten med kinesiske myndigheter. I tillegg brukte gruppen ChatGPT for å generere phishing-e-poster for kunder i Kina.
Denne handlingen er en del av OpenAIs bredere innsats for å forhindre misbruk av AI-modellene for ondsinnede aktiviteter, inkludert overvåking og påvirkningsoperasjoner. I et beslektet tilfelle forbød OpenAI kontoer knyttet til Nord-Korea som genererte falske CV-er og nettprofiler for å uredelig sikre ansettelse i vestlige selskaper. En annen sak involverte en økonomisk svindeloperasjon i Kambodsja ved å bruke ChatGPT til å oversette og generere kommentarer på tvers av sosiale medieplattformer.
Den amerikanske regjeringen har uttrykt bekymring for potensiell bruk av AI-teknologier av autoritære regimer for å undertrykke dissens og spre feilinformasjon. OpenAIproaktive tiltakå identifisere og blokkere kontoer som er engasjert i slike aktiviteter, understreker utfordringene AI-selskaper står overfor for å sikre at deres teknologier ikke blir utnyttet til skadelige formål. Etter hvert som AI-verktøy blir stadig mer tilgjengelige, forblir ansvaret for å overvåke og forhindre misbruk av dem en kritisk prioritet for både utviklere og beslutningstakere.
På samme måte har DeepSeek, en kinesisk AI-oppstart, møtt regulatoriske handlinger i forskjellige land på grunn av bekymringer om personvern og sikkerhet. Sør-Koreas kommisjon for beskyttelse av personopplysninger suspenderte nye nedlastinger av DeepSeeks AI-apper, med henvisning til manglende overholdelse av regler for beskyttelse av personopplysninger. Suspensjonen vil forbli til appen oppfyller de nødvendige personvernlovgivningsstandardene, selv om nettjenesten fortsatt er tilgjengelig. I tillegg blokkerte Italias databeskyttelsesmyndighet DeepSeeks chatbot over personvernproblemer, noe som gjenspeiler en økende global gransking av AI-applikasjoner som kan kompromittere brukerdata.
Lær mer:Hackere bruker Googles Gemini AI: Hvordan utnytter de det?
Disse tilfellene fremhever de globale utfordringene med å regulere AI-teknologier, og balanserer innovasjon med nødvendigheten av å beskytte brukernes personvern og forhindre misbruk. Ettersom AI fortsetter å utvikle seg, kjemper selskaper og myndigheter over hele verden med å etablere rammeverk som fremmer teknologiske fremskritt samtidig som de ivaretar etiske standarder og menneskerettigheter.