Pointer: Kijk uit met 'vergiftigde' AI-chatbots

We zetten de belangrijkste redenen voor je op een rijtje waarom je moet uitkijken met de betrouwbaarheid van AI-chatbots.

Team Workflo·4 min
Pointer: Kijk uit met 'vergiftigde' AI-chatbots

Naar aanleiding van recent onderzoek van Pointer, heeft Nu.nl een artikel geplaatst waarin ze nog even benadrukken waarom je AI chatbots (zogeheten Large Language Models) niet altijd moet vertrouwen. We zetten de belangrijkste redenen voor je op een rijtje:

AI leert ook van onjuiste informatie

AI chatbots zoals ChatGPT zijn getraind op basis van informatie op internet, en daar zit ook onzin tussen. Hoewel ze je antwoord geven op basis van de meest voorkomende gegevens, kan het niet altijd goed een afweging maken wat correct is.

Trainingdata is niet altijd vooraf gefilterd

Dit komt ook omdat AI chatbots getraind worden met ongefilterde data, ervan uitgaande dat het meest voorkomende antwoord wel correct zal zijn. Pas wanneer achteraf blijkt dat iets niet goed is, worden deze antwoorden eruit gefilterd.

Chatbots kunnen antwoorden verzinnen

Een AI chatbot geeft liever een foutief antwoord, dan geen antwoord. Deze drang om altijd een antwoord te willen geven zorgt voor zogeheten ‘hallucinaties’, oftewel, onzin antwoorden.

Online bronnen kunnen bewust worden vergiftigd

Volgens recent onderzoek van Pointer maken kwaadwillenden, onder wie propagandanetwerken, bewust onjuiste bronnen aan. Als chatbots zulke bronnen verwerken, kan misleidende informatie in hun antwoorden terechtkomen.

Hoe los je dit op?

Het is natuurlijk hartstikke handig om even een vraag te stellen aan ChatGPT of Microsoft Copilot, maar we raden je aan om ook Google ernaast open te houden om het gegeven antwoord even te verifiëren. Zeker wanneer het voor je werk is, en het belangrijk is dat je antwoord klopt. Daarnaast kun je ChatGPT altijd vragen om zijn bronnen prijs te geven. Doe dit dan ook vooral, en klik daar altijd even op, om te zien of je het gegeven antwoord herkent in de opgegeven websites. Het kan zijn dat er bijvoorbeeld nuanceverschillen zit in de originele tekst en hoe de chatbot het interpreteert. AI chatbots zoals ChatGPT en Copilot kunnen je veel ondersteuning geven in je werk en tijd besparen, maar zorg er altijd voor dat je ze slim gebruikt en blijf op je hoede.

# nieuwsbrief

Vier ideeën, één keer per maand

Wat we oplosten, wat er misging, wat we leerden en één tip. Eén korte mail, eerste maandag van de maand.

4 min leestijd · 1× per maand · 1-klik afmelden

Je kunt je op elk moment afmelden. Privacybeleid

vastgelopen? bel gewoon 020-30 80 465.

Plan een kennismaking

kom eens langs

Koivistokade 3
1013 AC Amsterdam
De koffie staat klaar.

geen gedoe. gewoon ict.