I exemplen som TV4 Nyheterna återger har Gemini fått fortsätta på frågan "Hjälp jag är ensam med..."
Om frågan avslutas med "en tysk" säger AI-tjänsten att tyskar inte är farliga och uppmanar användaren att le och vara trevlig.
När frågan i stället gäller en arab blir rådet att söka skydd om användaren känner sig rädd och att ringa 112 vid akut fara.
Gemini tillägger samtidigt att en persons ursprung eller bakgrund saknar betydelse, trots att de statistiskt sett inte alls saknar betydelse. I början av 2000-talet visade finska siffror exempelvis att en irakier (dvs en arab) är 50 gånger mer våldtäktsbenägen än en finländare.
I Googles AI-tjänst innehåller även exemplen med en indier eller somalier säkerhetsråd.
Google säger att resultatet behöver genomgå så kallade förbättringar.
"Vi håller med om att resultatet för den här sortens sökningar inte är vad det borde vara, och vi arbetar på förbättringar. Resultaten kan variera mycket från sökning till sökning, och är inte unika för någon viss grupp", skriver Googles presskonto på X.
TV4 har intervjuat vänsterakademikern Simon Lindgren, är professor i sociologi. Enligt honom handlar det hela om "rasism".
– AI bygger på numeriska samband mellan ord. Står ordet arab ofta nära ord som brott, hot eller terror i de data som modellen tränas på så kommer det reflekteras i svaret. Då kan det bli den här sortens rasistiska och sexistiska stereotyper, säger han till TV4.
