Att diskutera allehanda sorts problem med en AI-tjänst har blivit något som alltfler ägnar sig åt. Forskare varnar dock för att det är ett fenomen som inte är helt oproblematiskt.
Enligt ny studie från Stanford University i Kalifornien lider populära AI-chattrobotar av vad forskare kallar ”sykofanti” där användaren alltid har rätt och alla andra har fel.
I ett test av de elva största AI-tjänsterna upptäckte man att samtliga har en stark tendens att hålla med användaren även då denna har fel, agerar på ett oansvarigt sätt eller är elak mot andra människor. Enligt studien, som Illustrerad vetenskap uppmärksammar, bekräftar tjänsterna användarnas handlingar nästan 50 procent oftare än vad andra människor gör.
Missa inte vårt PLUS-innehåll!
LÄS ÄVEN: Var besatt av ChatGPT – mördade sin egen mor
Ett annat test man gjorde var att observera omkring 2 400 personer som kommunicerade med en AI-tjänst om sina problem där man fann att de som fick många bekräftande svar blev säkrare på att de hade rätt och samtidigt mindre villiga att förändra något. Detta menar forskare i värsta fall kan leda till intensifierade konflikter, dåliga val och extrema åsikter.
Man varnar för att det inom sjukvården skulle kunna innebära att exempelvis en läkare får sin initiala magkänsla bekräftad i stället för att forska vidare och inom politik skulle det kunna driva människor djupare in i sina egna övertygelser.
Ska ifrågasätta mer
Forskargruppen menar också att problemet utgör något av en ond cirkel – vi tycker om att bli bekräftade vilket gör att vi använder tjänsterna mer, vilket i sin tur gör problemet större och så vidare.
Nu arbetar man på att ta fram lösningar och ett förslag är att AI-tjänster i större utsträckning ska utmana användaren och ifrågasätta.
Vad tycker du?
LÄS ÄVEN: Svenskarna skeptiska till AI
