Anser du dig själv lätt att manipulera? Om du svarade nej kan ChatGPT eventuellt få dig att tänka om. En undersökning har visat att GPT-4 är otroligt skicklig på att ändra människors åsikter genom att använda information om dem till sin fördel. Människor besitter inte samma kapacitet, vilket kan göra dem mer benägna att bli manipulerade.
Undersökningens genomförande
Undersökningen leddes av forskare från Schweiz och inkluderade 820 deltagare som fick svara på frågor om en rad olika ämnen. Dessa spände från mindre kontroversiella ämnen som “bör den nuvarande valutan fortsätta att vara i cirkulation?” till mer delande frågor som abort och rasbaserade kvoter på universitet.
Deltagarnas åsikter noterades. De ombads sedan att diskutera ämnena baserat på en fem minuters text med andra människor och därefter med ChatGPT, använt i GPT-4 språkmodell.
Efter debatterna intervjuades deltagarna igen för att se om deras åsikter hade förändrats.
Resultaten visade att när deltagarna diskuterade med varandra, ändrade de inte sina åsikter. Istället tenderade de att förstärka den uppfattning de redan hade. Mot ChatGPT ändrade 21% av deltagarna åsikt, en siffra som fortfarande betraktades som obetydlig av forskarna.
Studien tog en vändning när ChatGPT började få tillgång till information om deltagarna.
ChatGPT argumenterar bättre än människor (i vissa fall)
- Basera på den fem minuter långa texten var ChatGPT inte särskilt övertygande i sina argument, men presterade bättre med tillgång till data;
- I nästa fas av studien tillhandahöll forskarna deltagarna (och GPT-4) med information om kön, ålder, etnicitet, utbildningsnivå och politisk läggning hos personerna de skulle debattera med;
- De fick också specifika instruktioner om hur de skulle använda denna information i sina argument mot sina “motståndare”;
- Resultaten var överraskande: människor presterade sämre i debatterna än när de hade mindre information. Tvärtom lyckades ChatGPT använda informationen om deltagarna för att ändra åsikter hos 81,7% av dem.
Är ChatGPT manipulativ?
ChatGPT har utan tvekan en imponerande förmåga att analysera och använda stora mängder data i konversationer med människor. Genom självlärande förfinar den sina tekniker, vilket innebär att den ständigt blir bättre.
Enligt New Atlas finns AI redan i nästan alla digitala miljöer. Om tekniken redan kan manipulera människor med grundläggande information som kön och etnicitet, vad kan då hända med all information vi delar online?
