Artificiell intelligens (AI) kan komma att bli ett “utrotningshot mot mänskligheten” om inte snabba åtgärder vidtas. Det varnar en rapport beställd av USA:s regering, enligt CNN. Dokumentet antyder att teknologin kan vara på väg att bli en risk för landets nationella säkerhet.
För den som har bråttom:
- En rapport beställd av USA:s regering varnar för att AI kan utgöra ett “utrotningshot” om inte omedelbara åtgärder vidtas;
- Rapporten, utarbetad av Gladstone AI efter intervjuer med mer än 200 experter, syftar till att förstå hur AI påverkar USA:s nationella säkerhet och intressen. Dokumentet betonar behovet av att balansera potentiella fördelar med riskerna som dess framsteg medför;
- Bland rapportens iakttagelser är AI:s potential att bli beväpnad eller att bli okontrollerbar. Dokumentet föreslår skapandet av en ny reglerande myndighet, genomförandet av nödregleringar och begränsning av datorkraft för AI-modeller;
- Dessutom understryker rapporten vikten av globalt samarbete och lagstiftning för att ta itu med AI:s utmaningar. Dokumentet belyser även farorna med generell artificiell intelligens (AGI) och brådskan i att utveckla effektiva säkerhetsåtgärder.
Rapporten, beställd av USA:s utrikesdepartement (motsvarande Sveriges utrikesdepartement), togs fram av Gladstone AI. Företaget intervjuade över 200 experter, inklusive AI-företagsledare, forskare och säkerhetsofficerare.
Departementet syftar till att bedöma hur AI påverkar USA:s nationella intressen. Och det klargörs att rapportens slutsatser inte nödvändigtvis återspeglar synen hos president Joe Bidens regering. Initiativet understryker den växande oron över riskerna med AI:s framsteg, trots dess potentiella fördelar inom områden som medicin och vetenskap.
Fördelar och risker med artificiell intelligens
Gladstone AI:s VD, Jeremie Harris, lyfter fram AI som en omvandlande teknologi som kan erbjuda betydande fördelar men också allvarliga risker, inklusive katastrofala. Dokumentet påpekar att AI-baserade verktyg, bortom en viss kapacitetströskel, kan bli okontrollerbara.
Rapporten framhäver två huvudrisker med AI: potentialen att bli beväpnad för att orsaka oåterkallelig skada och möjligheten att utvecklarna förlorar kontrollen över dessa system, med förödande konsekvenser för den globala säkerheten. Dessa bekymmer inkluderar risken för ett AI-arms race och oavsiktliga konflikter i stor skala.
Bidenadministrationen har vidtagit betydande åtgärder för att hantera AI-riskerna, inklusive en verkställande order som syftar till att både utnyttja dess potential och minska farorna. Vita huset betonar vikten av internationellt samarbete och lagstiftning för att hantera dessa framväxande teknologier.
Vad kan då göras?
För att möta dessa hot rekommenderar Gladstone AI-rapporten inrättandet av en ny AI-myndighet, genomförande av nödregleringar och begränsning av datorkraft för att träna AI-modeller. Dessa steg syftar till att förhindra kontrollförlust och mildra säkerhetsrisker.
Intervjuer som genomförts av Gladstone AI avslöjade en känsla av att säkerhetsåtgärderna för avancerad AI är otillräckliga, med teknikutveckling som prioriteras över säkerhet. Dokumentet nämner även varningen från AI-pionjären Geoffrey Hinton om mänsklighetens utrotningsrisk genom tekniken och behovet av att prioritera minskningen av dessa risker.
Slutligen diskuterar rapporten potentialen hos AGI – en form av AI med inlärningskapacitet lika med eller överlägsen människans – att introducera oöverträffade risker. Den belyser utmaningen att reglera och utveckla skyddsåtgärder för en teknik vars utveckling är osäker, med varning för risker associerade med AI-applikationer inom områden som cyberattacker och psykologisk manipulation.
