Naar aanleiding van recent onderzoek van Pointer, heeft Nu.nl een artikel geplaatst waarin ze nog even benadrukken waarom je AI chatbots (zogeheten Large Language Models) niet altijd moet vertrouwen. We zetten de belangrijkste redenen voor je op een rijtje:
AI leert ook van onjuiste informatie
AI chatbots zoals ChatGPT zijn getraind op basis van informatie op internet, en daar zit ook onzin tussen. Hoewel ze je antwoord geven op basis van de meest voorkomende gegevens, kan het niet altijd goed een afweging maken wat correct is.
Trainingdata is niet altijd vooraf gefilterd
Dit komt ook omdat AI chatbots getraind worden met ongefilterde data, ervan uitgaande dat het meest voorkomende antwoord wel correct zal zijn. Pas wanneer achteraf blijkt dat iets niet goed is, worden deze antwoorden eruit gefilterd.
Chatbots kunnen antwoorden verzinnen
Een AI chatbot geeft liever een foutief antwoord, dan geen antwoord. Deze drang om altijd een antwoord te willen geven zorgt voor zogeheten ‘hallucinaties’, oftewel, onzin antwoorden.
Online bronnen kunnen bewust worden vergiftigd
Volgens recent onderzoek van Pointer maken kwaadwillenden, onder wie propagandanetwerken, bewust onjuiste bronnen aan. Als chatbots zulke bronnen verwerken, kan misleidende informatie in hun antwoorden terechtkomen.
Hoe los je dit op?
Het is natuurlijk hartstikke handig om even een vraag te stellen aan ChatGPT of Microsoft Copilot, maar we raden je aan om ook Google ernaast open te houden om het gegeven antwoord even te verifiëren. Zeker wanneer het voor je werk is, en het belangrijk is dat je antwoord klopt. Daarnaast kun je ChatGPT altijd vragen om zijn bronnen prijs te geven. Doe dit dan ook vooral, en klik daar altijd even op, om te zien of je het gegeven antwoord herkent in de opgegeven websites. Het kan zijn dat er bijvoorbeeld nuanceverschillen zit in de originele tekst en hoe de chatbot het interpreteert. AI chatbots zoals ChatGPT en Copilot kunnen je veel ondersteuning geven in je werk en tijd besparen, maar zorg er altijd voor dat je ze slim gebruikt en blijf op je hoede.




