Forside / Kunstig Intelligens / Udfordringer og etiske dilemmaer ved brug af generativ AI som ChatGPT
Udfordringer og etiske dilemmaer ved brug af generativ AI som ChatGPT
ChatGPT og andre chatbots er en form for generativ AI, der er designet til at skrive og kommunikere med mennesker. Den form for teknologi indebærer både udfordringer og etiske dilemmaer.
Hvad er ChatGPT?
ChatGPT er en sprogmodel udviklet af OpenAI. Den anvender generativ AI til at føre samtaler med brugeren. Det fungerer ved, at den analyserer og genererer tekst baseret påmønstre i de data, den er trænet på.
Dette er en stor mængde tekst fra bøger, artikler og internettet. ChatGPT er designet til at generere sammenhængende og relevante svar gennem en proces kaldet "selvopmærksomhed", hvor modellen vurderer betydningen af hvert ord i forhold til de andre ord i sætningen.
Dette er en stor mængde tekst fra bøger, artikler og internettet. ChatGPT er designet til at generere sammenhængende og relevante svar gennem en proces kaldet "selvopmærksomhed", hvor modellen vurderer betydningen af hvert ord i forhold til de andre ord i sætningen.
Begrænsninger ved ChatGPT
Det er relevant at kende til de begrænsninger, som ChatGPT har, når man bruger den. De tæller blandt andet:
- Manglende kontekstforståelse
Selvom ChatGPT og andre sprogmodeller kan generere sammenhængende svar, har den ikke en dyb forståelse for konteksten i en samtale. Dette kan gøre, at svar ikke altid er relevante eller præcise i forhold til det, man spørger om. For eksempel kan den misforstå nuancer i spørgsmål eller overse subtile referencer, hvilket kan resultere i misforståelser. - ChatGPT arbejder ikke i realtid
Det vil sige, at den ikke har adgang til opdaterede data eller informationer, der er sket siden dens træning. Hvis man spørger om aktuelle begivenheder eller specifikke fakta, kan ChatGPT give forældede eller unøjagtige svar. - Sprogmodeller er bedre på deres originalsprog
ChatGPT har størst viden på engelsk, da den hovedsageligt er trænet på engelsksproget materiale og i langt mindre grad på små sprog som dansk. Det betyder, at selvom ChatGPT kan formulere svar på dansk, er den ofte mere præcis og nuanceret på engelsk. - Søgning på nettet
Nogle chatbotter, herunder ChatGPT, kan søge på nettet, hvilket kan give et indtryk af at den arbejder i realtid. Dog arbejder den stadig på et fastsat læringsgrundlag, og kan derfor stadig mangle konteksten eller en analytisk tilstand.
Danskernes svar på spørgsmålet: Har du brugt AI til privat brug de sidste tre måneder? Tal fra Danmarks Statistik.
Etiske overvejelser om ChatGPT
Da sprogmodeller som ChatGPT er afhængige af den data, de er trænet på, kan bias eller fordomme i træningen føre til, at ChatGPT gengiver stereotyper og deler misinformation. Det er ikke alle sprogmodeller, der offentliggør lister over, hvad de er oplært på. I EU’s AI-forordning er der ved at blive lavet regler for dette. Fakta givet af en sprogmodel kan derfor ikke betragtes som pålidelig information.
Når man bruger ChatGPT, indsamler den data for at forbedre de svar, den giver. Der er i øjeblikket ved at blive lavet regler for, hvordan data behandles og bruges. Disse er dog så nye, at ikke alle systemer har dem implementeret endnu. Du kan læse nærmere om det i EU’s AI-forordning.
Med ny teknologi som fortsat er under udvikling, opstår der løbende nye problemstillinger og etiske dilemmaer for brugerne. I Digitalt Ansvar arbejder vi for, at der kommer bedre pålidelig information om digitale tjenester og værktøjer, så bliver nemmere at navigere i digitale tjenester.
Når man bruger ChatGPT, indsamler den data for at forbedre de svar, den giver. Der er i øjeblikket ved at blive lavet regler for, hvordan data behandles og bruges. Disse er dog så nye, at ikke alle systemer har dem implementeret endnu. Du kan læse nærmere om det i EU’s AI-forordning.
Med ny teknologi som fortsat er under udvikling, opstår der løbende nye problemstillinger og etiske dilemmaer for brugerne. I Digitalt Ansvar arbejder vi for, at der kommer bedre pålidelig information om digitale tjenester og værktøjer, så bliver nemmere at navigere i digitale tjenester.
Børn og AI
Der har været bekymringer, om det er forsvarligt at lade børn bruge apps som Snapchat, der har en indbygget chatbot kaldet "My AI". I 2024 påviste Børns Vilkår, at "My AI" kunne give råd om selvskade.
Oversigt over brug af MyAI i 4 og 7 klasse. Undersøgelsen er foretaget af Børns Vilkår.
Generativ AI som ChatGPT og andre chatbotter har både risici og muligheder for børn. For at beskytte børn bedst muligt mod teknologier, der ikke er alderssvarende, kan forældre, lærere og samfundet som helhed med fordel være opmærksomme på, hvordan børn interagerer med AI-teknologier. Man kan hjælpe børn med at navigere i den digitale verden og forstå forskellene mellem menneskelig interaktion og interaktion med AI.
Gode råd
- Se ChatGPT som et værktøj, der kan hjælpe med at generere ideer eller give information, men husk at krydstjekke fakta.
- Vær opmærksom på datadeling og tænk over, hvilke oplysninger du deler med ChatGPT. Undgå at give personlige eller følsomme data.
- Vær kritisk, når du modtager svar fra ChatGPT. Overvej konteksten og relevansen af de oplysninger, der gives, og vær opmærksom på, at modellen kan have begrænsninger i sin forståelse.
- Sæt dig ind i basale principper for, hvordan AI og sprogmodeller fungerer. Jo mere du ved om teknologien, desto bedre kan du navigere i dens styrker og svagheder.
Spørgsmål og svar
Er der alternativer til ChatGPT?
Hvad er forskellen på chatbotter, sprogmodeller og ChatGPT?
Er det sikkert at bruge ChatGPT?
