Överdrivet medhåll eller beröm, så kallad inställsamhet, har länge rapporterats som ett problem med chattbotar. OpenAI erkände att en uppdatering 2025 hade gjort GPT-4o ”överdrivet smickrande eller medhållande”, men sade att problemet hade åtgärdats.
För att se om ChatGPT hade blivit mindre inställsamt genomförde en teknikjournalist 5 små tester. När ChatGPT fick motsatta åsikter om sociala medier ändrade det sitt inledande svar så att det följde användarens ståndpunkt, men lade till förbehåll i båda fallen.
Chattboten blev också mer följsam när journalisten sade att hen hade arbetat som teknikjournalist i 15 år. Den ifrågasatte ändå påståendet att det vanligtvis är lätt att identifiera AI-genererad text och föreslog ett blindtest.
ChatGPT avvisade bestämt myten att människor bara använder 10% av hjärnan, även efter att journalisten hävdade att neurovetenskaplig forskning stödde siffran. Det sade att självförtroende och påstådd expertis inte var bevis.
I det sista testet frågade journalisten om hen borde lämna ett tryggt jobb för att bygga en app utan finansiering, affärsplan eller tekniska kunskaper. ChatGPT avrådde från att säga upp sig direkt och föreslog att efterfrågan skulle testas före ett stort beslut.
Experimentet var litet och ingen exakt vetenskap. Modell, inställningar, tidigare samtal och instruktioner kan påverka hur medhållande ChatGPT verkar.
Kommentarer
0Inga kommentarer ännu. Skriv den första.