Ett av OpenAI:s laboratorier, som står bakom ChatGPT, presenterade under de sista veckorna i oktober en algoritm som kan lösa matematikproblem. Kort därefter, i november, rapporteras det att forskare vid företaget skickade ett brev till styrelsen där de varnade för en upptäckt inom området för artificiell intelligens som potentiellt kunde utgöra ett hot mot mänskligheten. Detta är åtminstone vad nyhetsbyrån Reuters nyligen rapporterade.
För den som är i farten:
- Ett laboratorium hos OpenAI har utvecklat en algoritm som kan lösa matematiska problem, vilket markerar ett betydande framsteg.
- Forskare vid OpenAI skrev i november ett brev till styrelsen där de varnade för en upptäckt inom området för artificiell intelligens som kan utgöra ett hot mot mänskligheten.
- Brevet refererade till Q*, en ny AI-modell som har demonstrerats internt av OpenAI, vilken representerar ett stort steg mot skapandet av “artificiell generell intelligens” (AGI).
- Medan ChatGPT använder rå databearbetning för att producera text, fokuserar Q* på att lösa matematiska problem, med ambitionen att förstå och närma sig verklig intelligens.
- Q*:s förmåga att lösa matematiska problem ses som ett första steg mot att bygga AGI, definierad som autonoma system som överträffar människor i ekonomiskt värdefulla uppgifter.
Brevet nämnde Q* (“Q Star”), en ny AI-modell som har demonstrerats internt av OpenAI. Vid första anblick kan det verka oväsentligt att en AI kan lösa enkla matematiska problem. Men för de inblandade forskarna representerar detta ett steg mot skapandet av artificiell generell intelligens (AGI), eller en “super-AI”, om man så vill.
F*: Vad vet vi om “super-AI”
För tillfället bygger textproduktionen i ChatGPT främst på en probabilistisk beräkning. En omfattande beräkningskapacitet som, efter att ha bearbetat en mängd böcker motsvarande vad en person skulle kunna läsa under 20 tusen år, bygger på sannolikheten att kombinera ord.
Men det framsteg som uppenbart uppnåtts med Q* involverar matematik – och det förändrar spelet. För närvarande är det känt att AI har lyckats lösa inte speciellt avancerade problem, med beräkningar som barn upp till 11 års ålder lär sig. Men detta är i sig ett oöverträffat framsteg.
Den största skillnaden mellan vad ChatGPT och Q* kan åstadkomma är följande: medan många olika skriftliga texter kan utgöra korrekta svar på en fråga, finns det i matematiska problem bara ett rätt svar. Chatboten förlitar sig på rå bearbetningskraft, medan “super-AI” använder förståelse, vilket placerar modellen närmare verklig intelligens.
Detta tekniska framsteg, som förmodas ha uppnåtts av OpenAI, skulle vara det första steget mot att bygga det som kallas för “artificiell generell intelligens”, något som definieras av företaget som en uppsättning “autonoma system som överträffar människor i de mest ekonomiskt värdefulla uppgifterna”.
OpenAIs VD kommer och går
Detta brev och den nya AI-modellen, som inte hade offentliggjorts tidigare, tros ha varit nyckelfaktorer som ledde till Sam Altmans återinträde som VD för OpenAI.
En sammanfattning av vad som hände:
- Med ChatGPT på väg att fylla ett år (och ett mycket framgångsrikt sådant), beslutade OpenAI att avskeda ingen annan än fö
retagets VD, Sam Altman. - Vad företaget inte förväntade sig var det extremt negativa mottagandet från marknaden, de anställda och startup-investerarna.
- För att göra saken värre, avgick även AI-företagets president, Greg Brockman, i solidaritet med sin vän eftersom han hade tagits bort från styrelsen och endast informerats om Altmans avskedande.
- Effekten av detta ledde till att forskare och andra anställda hotade med kollektiv uppsägning, och investerare varnade OpenAI för möjliga konsekvenser på upp till 86 miljarder USD för dess aktier.
- Gruppen började diskutera möjligheten för Altmans återkomst.
- Det första resultatet av detta var dock ytterligare en negativ överraskning: Emmett Shear, en av grundarna av Twitch, tillkännagavs som ny tillfällig VD.
- Microsoft, en av OpenAIs största supportrar, positionerade sig genom att säga att både Altman och Brockman skulle ingå i dess personal.
- Slutligen, genom att stänga cirkeln av kaos, beslutade ägaren av ChatGPT att det var bäst att återinsätta Altman. Brockman återvände också till startupen – allt detta hände på mindre än en vecka!
Vad är artificiell generell intelligens (AGI)?
Artificiell generell intelligens (AGI), även känd som stark AI eller superintelligens, avser ett system för artificiell intelligens som har förmågan att förstå, lära sig och tillämpa kunskap på vilken kognitiv uppgift som helst, på samma sätt som en människa.
Vad skiljer “vanlig” AI från generell AI?
“Traditionell” artificiell intelligens är utvecklad för specifika uppgifter. AGI skulle kunna självständigt utföra en mängd olika intellektuella aktiviteter, anpassa sig till nya situationer och lära sig av erfarenheter på ett sätt som liknar eller är överlägset mänskliga förmågor.
