Kan ChatGPT bistå i utvecklingen av biologiska vapen? OpenAI ger sitt svar

“OpenAI-teamet utförde en undersökning för att utvärdera riskerna och eventuellt missbruk av ChatGPT, särskilt den mer avancerade versionen GPT-4.

De som forskade på biologiska vapen med den betalda versionen av ChatGPT – vars ‘motor’ är GPT-4 – hade en ‘liten fördel’ jämfört med dem som utförde sin forskning med vanliga sökmotorer på internet. Det är slutsatsen från en studie utförd av OpenAI.

Kan ChatGPT bistå i utvecklingen av biologiska vapen? OpenAI ger sitt svar

För de som är i bråttom:

  • En studie från OpenAI drog slutsatsen att användare av ChatGPT har en ‘liten fördel’ jämfört med de som utförde sin forskning på biovapen med konventionella sökmotorer;
  • Studien genomfördes av OpenAI-teamet för att bedöma riskerna och potentiellt missbruk av dess artificiella intelligensmodeller (AI), som svar på oro från forskare och beslutsfattare;
  • Undersökningen inkluderade 100 deltagare – däribland experter och biologistudenter på universitetsnivå – uppdelade i två grupper för att jämföra effektiviteten av GPT-4 och internet i uppgifter relaterade till utveckling av biologiska vapen;
  • Trots en måttlig ökning i noggrannhet producerade användare av GPT-4 mer detaljerade svar, och studenter som hade tillgång till modellen kunde nästan matcha experters kunskapsnivå i vissa uppgifter.

Undersökningen utfördes av OpenAI-teamet, som meddelades i oktober 2023, i syfte att utvärdera riskerna och eventuellt missbruk av företagets artificiella intelligensmodeller (AI).

ChatGPT och biologiska vapen

Studien involverade 100 deltagare uppdelade i två grupper: experter inom biologi och universitetsstudenter med biologisk utbildning. En grupp hade tillgång till GPT-4, medan den andra endast använde traditionellt internet för att utföra fem uppgifter relaterade till tillverkning av biologiska vapen.

Resultaten visade att gruppen som använde GPT-4 hade en något högre genomsnittlig noggrannhetspoäng i uppgifterna. Å ena sidan beskriver forskningen skillnaden som statistiskt signifikant. Å andra sidan ifrågasätter deras slutsatser idén att artificiell intelligens erbjuder en stor fördel i detta sammanhang.

Däremot gav deltagare som använde GPT-4 mer detaljerade svar. Och studenter som hade tillgång till modellen kunde nästan nå expertnivån i vissa uppgifter, vilket väcker frågor om verktygets pedagogiska potential.

OpenAI-teamet som ansvarar för studien utforskar också potentiella cyberhot och AI:s påverkan på att förändra övertygelser. Målet är att förstå och minska riskerna med tekniken.

Poäng och motargument

Även om studieresultaten tonar ner fördelen med GPT-4 jämfört med traditionellt internet, hävdar kritiker att OpenAI:s interna forskning underskattar den verkliga effekten av AI-modellen, tränad på omfattande mängder vetenskapliga data och annan information.

Studien erkände att ChatGPT erbjöd en “statistiskt signifikant” fördel i termer av övergripande noggrannhet när den inte justerades för multipeljämförelser. Detta motsäger den ursprungliga tolkningen att AI endast erbjuder en liten ökning i noggrannhet och fullständighet i svaren.

OpenAI:s forskning väcker en debatt om den verkliga potentialen hos AI-verktyg som ChatGPT, särskilt inom känsliga områden som forskning om biologiska vapen. Det betonar även vikten av att överväga etiska och säkerhetsmässiga konsekvenser vid utveckling och användning av dessa avancerade teknologier.

Betygsätt Denna Sida