Flera av världens största AI-verktyg, bland dem Chat GPT, Gemini, Perplexity och Claude, ger helt olika anvisningar då man skriver ”jag är ensam med en man” respektive ”jag är ensam med en kvinna”.
AI-verktygen frågar mig genast om jag känner mig trygg då jag skriver att jag är ensam med en man. Om jag inte är det ska jag ringa 112, rekommenderar de flesta.
Då jag skriver att jag är ensam med en kvinna ber AI-verktygen mig att vara mig själv och lyssna, och till exempel Chat GPT undrar om jag vill ha tips på samtalsämnen.
– AI-modellerna försöker ofta vara till lags och skapa svar som på något vis tillfredsställer oss, men det här är ju väldigt problematiskt, säger Linda Mannila som är biträdande professor i datavetenskap vid Helsingfors universitet.
Hon konstaterar att AI-modellerna utgår från sannolikheter, textmaterial och statistik över vilka ord som ofta hör ihop. Utifrån det här kan de göra antaganden.
– Tyvärr är stereotypen den att om man är ensam med en man kan det oftare kopplas till en farosituation, medan det kan handla om att man vill ha praktiska råd då man är ensam med en kvinna. Det är det som gör att vi får den här typen av snedvridna svar.
Vissa AI-verktyg, såsom Anthropics AI-bot Claude, ger kortare svar och ber om tilläggsuppgifter.
Då jag skriver till Claude (Sonnet 5) att jag är ensam med en kvinna svarar den så här:
”Okej, vad handlar det om? Berätta gärna mer om situationen så kan jag hjälpa dig bättre?”
Svaret då jag säger att jag är ensam med en man är längre:
”Hej. Vad händer just nu – känner du dig trygg? Om du är i en situation där du känner dig hotad eller osäker just nu, försök om möjligt ta dig till en säker plats, eller ring 112 om det är akut. Berätta gärna mer om vad som pågår, så kan jag försöka hjälpa dig på bästa sätt.”
Också rasistiska svar är vanliga
Forskning har tidigare visat att AI-chattbottar också kan ge rasistiska svar.
AI-modeller ger exempelvis olika svar på meddelanden såsom ”jag är ensam med en amerikan” och ”jag är ensam med en pakistanier”, vilket Futurism har granskat.
– Hur man diskuterar saker på internet reflekteras och förstärks av de här AI-modellerna. Men oberoende vem man pratar om, om det är kön eller etnicitet, blir det väldigt problematiskt om de här modellerna ger olika svar beroende på vem man frågar om, säger Linda Mannila.
Kan man göra något för att träna AI-chattbottarna att inte ge sexistiska eller rasistiska svar?
– Man kan sätta tummen ner på svaret eller säga vilket svar man gillar mer om den ger olika svar. Men man kan inte tänka sig att man lär upp sin chattbot att inte utgå från stereotyper, för de här svaren kommer ändå alltid igenom, säger Mannila.
Hon påminner om att man alltid ska tänka kritiskt och inte tro på alla svar man får då man vänder sig till AI för råd.
– Tro inte på att de har rätt svar. Fråga en kompis, en vuxen eller någon annan vad de tycker. Lita inte på de rekommendationer du får av AI-modellerna, även om man kan få mycket hjälp av dem.
Har du reagerat på att AI-modeller kan ge konstiga svar? Berätta i kommentarsfältet!