Microsofts AI skapar problematiska bilder, varnar en ingenjör på företaget.

Shane Jones, en ingenjör inom artificiell intelligens (AI) på Microsoft, har uttryckt sin oro efter att ha använt Copilot Designer, ett verktyg för bildgenerering baserat på OpenAI:s teknik. Hans bekymmer uppstod efter att verktyget producerat innehåll som han ansåg vara problematiskt, inklusive bilder som innehöll sexualisering, våld, och missbruk mot barn.

Microsofts AI skapar problematiska bilder, varnar en ingenjör på företaget.

Sammanfattning av händelsen:

  • Shane Jones, en AI-ingenjör vid Microsoft, blev orolig efter att ha använt Copilot Designer, ett OpenAI-drivet verktyg, på grund av genereringen av störande innehåll som inbegrep sexualisering, våld, och missbruk av minderåriga.
  • Jones försökte först rapportera sina bekymmer internt inom Microsoft men blev istället hänvisad till att kontakta OpenAI, varifrån han inte fick något svar. När han delade sin oro offentligt på LinkedIn, blev han uppmanad av Microsofts juridiska avdelning att ta bort sitt inlägg.
  • Jones framhävde farorna med generativ AI, speciellt dess förmåga att skapa opassande innehåll utan klara begränsningar, och dess potentiella påverkan på val.
  • Med tanke på brister i innehållskontroll och upphovsrättsskydd, efterlyser Jones en oberoende översyn av Microsofts hanteringsprocesser för rapportering av ansvarsfull AI-användning, samt förändringar i Copilot Designer-verktyget för att öka användarsäkerheten och minska risker.

Under sina tester upptäckte Jones bildmaterial som innehöll sexualisering, våldsamma skildringar och missbruk av barn. Trots de alarmerande upptäckterna och efter att ha rapporterat dem inom Microsoft, blev han ombedd att kontakta OpenAI, där han inte erhöll något svar. Denna information kommer från CNBC.

Efter att ha delat sin oro offentligt på LinkedIn blev Jones uppmanad av Microsofts juridiska team att ta bort inlägget. Han har även förmedlat sin oro till senatorer och USA:s federala handelskommission (FTC).

Oro för Microsofts AI

Jones är speciellt bekymrad över användningen av generativ AI med tanke på dess förmåga att producera våldsamt och opassande innehåll utan tydliga restriktioner, och dess potentiella inverkan på demokratiska val.

Han pekar även på att Copilot Designers Android-app är klassad som lämplig för alla åldrar, vilket utmanar Microsofts åtagande till ansvarsfull AI-användning och verktygets åldersklassificering, givet dess förmåga att generera kontroversiellt innehåll.

Jones lyfter även fram missbruket av upphovsrättsskyddade karaktärer från bland annat Disney i opassande sammanhang, vilket indikerar brister i verktygets skyddskontroller och potentiella upphovsrättsproblem.

Av dessa anledningar efterlyser Jones en oberoende granskning av Microsofts rapporteringsprocesser för ansvarsfull AI-användning och kräver betydande förändringar av Copilot Designer-verktyget för att minska riskerna och säkerställa användarsäkerheten.

Betygsätt Denna Sida