Alvorlige fejl med Googles AI Overviews 

Googles AI Overviews, en ny funktion designet til at give hurtige, AI-genererede svar på brugernes søgeforespørgsler, er blevet lanceret med stor opmærksomhed. Men kort efter lanceringen er funktionen blevet mødt med hård kritik for at producere fejlagtige og til tider farlige oplysninger.

AI Overviews er skabt til at hjælpe brugerne med hurtigt at finde svar ved at sammenfatte information fra forskellige webkilder. Formålet er at spare tid og gøre det nemmere at finde nødvendige oplysninger uden at skulle gennemse flere websider. Men funktionen har vist sig at have alvorlige fejl.

Brugere har rapporteret om bizarre og fejlagtige svar fra AI Overviews. Eksempler inkluderer råd om at spise sten og bruge lim på pizza for at få osten til at hænge fast. Det har rejst spørgsmål om pålideligheden og sikkerheden af de AI-genererede svar.

Kritikken fra indholdsudgivere

Mange indholdsudgivere har kritiseret Google for at bruge deres materiale uden tilladelse til at træne AI-modellerne. I Frankrig har dette ført til juridiske udfordringer, hvor en domstol beordrede Google til at forhandle en retfærdig kompensation til udgiverne. Amerikanske udgivere har også rejst lignende bekymringer, idet de mener, at AI Overviews kan reducere webtrafikken og dermed deres indtægter betydeligt.

De unøjagtige svar og den potentielle reduktion i webtrafik kan have alvorlige konsekvenser for både brugere og indholdsskabere. Websites, der er afhængige af trafikken fra Google-søgninger, risikerer at miste en betydelig del af deres publikum, hvilket kan true deres forretningsmodeller.

Google erkender

Google har erkendt problemerne og har taget skridt til at forbedre systemet. Ifølge Google er de fleste af de fejl, der cirkulerer online, resultatet af usædvanlige forespørgsler og er ikke repræsentative for de fleste brugeres oplevelser. Virksomheden bruger feedback fra brugerne til at foretage nødvendige forbedringer.

På trods af de nuværende udfordringer har Google ambitiøse planer for AI Overviews. De arbejder på at forbedre systemets evne til at håndtere komplekse forespørgsler og planlægger at introducere flere funktioner som videosøgning og multistep-reasoning. Succesen af disse planer afhænger dog af, hvordan Google håndterer de nuværende problemer og kritik.

Vi laver journalistik om AI, fordi udviklingen går hurtigere end den offentlige samtale.

På AI Portalen forsøger vi at skabe overblik, perspektiv og kritisk indsigt i en teknologi, der allerede former alt fra arbejdsmarkedet til demokratiet — ofte uden at nogen bremser op og forklarer, hvad der foregår.

Hvis vores artikler hjælper dig med at forstå AI lidt bedre, så overvej at støtte arbejdet.

Et medlemskab gør én ting mulig: at vi kan blive ved med at undersøge, dokumentere og forklare, hvordan AI påvirker Danmark — uden investorer, uden PR-interesser og uden at jage hype.

Bliv medlem og vær med til at styrke uafhængig journalistik om AI.