Intelligent brug af AI

Følgende tekst er taget fra skrivopgave.dk

"En chatbot fungerer ved at analysere store datamængder og genkende mønstre mellem ord. Den er således trænet i at kunne se, hvilke ord, der sandsynligvis optræder sammen. Den viser derfor ikke nødvendigvis fakta, men ord, der optræder i sammenhæng.       

Fejlkilder

 En chatbot har så at sige støvsuget nettet for information, og chatbottens svar er derfor ikke bedre, end de svar, den er trænet på. Derfor kan du få forkerte svar fra en chatbot. Hvis den er trænet i fejlagtige data, giver den forkerte svar.                             
 

• Hvis en chatbot mangler information, kan den begynde at  opdigte ting. Man siger at den hallucinerer. På denne artikels topbillede fra januar 2024, kan du se et typisk eksempel på en hallucination.                             
   
• En chatbot  kan være påvirket af bias. Er chatbotten primært trænet på tekster, der indeholder stereotyper om bestemte grupper af mennesker, kan det resultere i, at chatbotten reproducerer og forstærker disse stereotyper i sine svar.                            
   
• Selv om du kan kommunikere med en chatbot på dansk, så viser det sig, at en chatbot ikke har så stor viden om danske forhold, som den har om engelsksprogede specielt amerikanske lande. Det skyldes selvfølgelig, at chatbots i højere grad er trænet på engelsksprogede tekster.                            
  Kommunikerer du derfor på engelsk, vil du opleve færre forkerte svar.

Vær derfor altid kritisk over for de svar, du modtager fra en chatbot, og tjek altid informationerne i andre kilder."