Sedan lanseringen 2022 har ChatGPT blivit en global framgång. Dock, enligt Meredith Whittaker, ordförande för Signal Foundation, ger denna chatbot självsäkra uttalanden om ämnen den inte förstår, vilket vi bör vara försiktiga med när vi forskar på nätet.
Whittaker, som leder meddelandeappen som blivit ett alternativ till WhatsApp, framförde detta under sitt anförande “Varför vi behöver sätta bromsar på AI-utvecklingen” vid Web Summit Rio.
Vad Whittaker uttryckte
Under detta framstående teknologievenemang talade presidenten också för reglering av artificiell intelligens (AI) och vikten av att skydda användardata.
Hon liknade ChatGPT vid “den där farbrorn som kommer över på helgerna, dricker för mycket och pratar självsäkert om saker han inte har en aning om.” Whittaker menade att, likt den släktingen, kan chatboten vara underhållande och användbar i avslappnade sammanhang, men vi bör inte lita på den fullt ut.
Vi bör inte förvandla chatboten till ett forskningsverktyg som människor använder för att inhämta fakta. Vad tycker du om att använda ChatGPT?
Meredith Whittaker påpekade även att ChatGPT använder sig av information “från internets mörkaste hörn” och, utifrån detta, “ger svar i kontext och förutspår nästa ord i meningen.” Med andra ord, chatboten saknar auktoritet i ämnen och garanterar inte att informationen är korrekt.
Dessutom bygger verktygets system på data fram till 2021, och är därmed inte uppdaterat.
AI, regelverk och lagstiftning
- Som ordförande för Signal Foundation förespråkar hon reglering inom AI-sektorn;
- Enligt henne är strategier nödvändiga för att hejda spridningen av felaktig information och skydda användarnas privatliv;
- Whittaker påpekar att de nuvarande reglerna, i praktiken, endast tjänar till att informera användarna om att de övervakas och deras data insamlas;
- Det finns inget val eller godkännande för att tillåta denna övervakning;
- Vidare, eftersom stora företag som Google, Microsoft och Amazon äger dessa verktyg, koncentreras all makt hos dem och det är oklart vad de gör med datan.
Lösningen på AI-problematiken
Hon anser att det enda sättet att bekämpa denna dominans, förhindra AI:s okontrollerade tillväxt och skapa regler för dess användning är genom gemensamma ansträngningar. Detta kan inkludera lokala offentliga policyer som övervakar hur information delas på nätet med stora företag.
Lösningen ligger i att organisera oss som samhälle. Det är viktigt att bestämma hur information används och av vem.
Signal Foundation
Mot slutet av sin presentation fick Whittaker frågor om hur hennes meddelandeapp blivit en samlingsplats för vitmaktanhängare och extremhögergrupper. En orsak är att plattformen krypterar meddelanden, vilket erbjuder ytterligare säkerhet och garanterar användarnas anonymitet.
Hon svarade inte direkt på frågan utan bekräftade bara företagets åtagande att bibehålla anonymiteten, och förklarade att “vårt mål är att bevara möjligheten att kommunicera privat, som före internets era.”
