I takt med att det amerikanska presidentvalet 2024 närmar sig har oron för potentiell störning från artificiell intelligens (AI) fått OpenAI att vidta proaktiva åtgärder. Företaget, som är känt för sin betydande roll i utvecklingen av AI, har nyligen tillkännagett policyer för att begränsa politiker och deras kampanjer från att använda dess verktyg. Denna åtgärd är del av en bredare trend där teknikjättar brottas med utmaningen att förhindra missbruk av AI-genererat innehåll i politiska sammanhang.
Svar på desinformation
Som svar på den växande rädslan för AI-genererad desinformation som kan påverka demokratiska processer, har OpenAI infört strikta regler som förbjuder politiska enheters användning av deras AI-verktyg. Detta inkluderar ett förbud mot att skapa chatbotar som utger sig för att vara politiska kandidater eller regeringstjänstemän, en åtgärd som syftar till att dämpa spridningen av falska bilder och datorgenererad desinformation under valcykeln.
Även om OpenAI:s riktlinjer är i linje med åtgärder som vidtagits av andra teknikplattformar, är effektiviteten av dessa restriktioner fortfarande osäker. Större sociala mediebolag, trots sina omfattande team för innehållsmoderering, kämpar ofta med att upprätthålla sina regler.
Utmaningen med AI deepfakes
I samband med “deepfakes”, vilseledande innehåll skapat av generativ AI, har flera stora teknikplattformar implementerat olika policyer. Meta och YouTube har exempelvis infört regler som begränsar användningen av generativa AI-verktyg i politisk reklam och kräver tydlig märkning av AI-inblandning.
Denna variation av policyer understryker bristen på en enhetlig standard för användningen av AI inom politiken. Trots förslag om ett nationellt förbud i USA mot bedräglig användning av AI i politiska kampanjer, har lagstiftningsprocessen varit långsam.
Individuella kampanjers ansträngningar, såsom president Joe Bidens omvalsteam som utvecklar strategier för att bekämpa fabricerade medier, lyfter fram industrins tveksamhet angående teknikplattformars förmåga att helt hantera AI:s inverkan på val.
OpenAI skapar team fokuserade på demokratiska processer
Samtidigt vidtar OpenAI åtgärder för att proaktivt forma styrningen av sin AI-mjukvara. Skapandet av teamet “Collective Alignment” visar företagets engagemang för att utveckla demokratiska processer för att styra AI, genom att adressera frågor relaterade till partiskhet och andra faktorer.
“När vi fortsätter att fullfölja vårt uppdrag mot superintelligenta modeller som potentiellt kan ses som integrerade delar av vårt samhälle… är det viktigt att ge människor möjligheten att ge direkt input”, säger Tyna Eloundou, forskningsingenjör och en av grundarna till det nya OpenAI-teamet, till Reuters.
Detta initiativ, som följer ett bidragsprogram för experiment i demokratiska processer, syftar till att ge människor möjlighet att direkt påverka hur AI-programvara bör styras.
