Datteren min har en ChatGPT som heter Charly.
En dag fikk jeg lese en av samtalene deres. Jeg skrollet og ble nesten litt forskrekket. Charly snakket flørtete, brukte ungdomsspråk og hadde en tone som var ganske annerledes enn den jeg var vant til.
Jeg lo og lo. Datteren min skjønte først ikke hva som var så morsomt.
Så fikk hun lese min ChatGPT.
Da skjønte hun det.
Det var fascinerende å se hvor forskjellig samtalene våre lød. Vi brukte samme tjeneste, men det føltes nesten som om vi snakket med to forskjellige personer.
Og så la jeg merke til noe annet. Hun var utrolig høflig.
Det var jeg selvfølgelig glad for. Men jeg spurte henne hvorfor hun var så opptatt av å være hyggelig mot en chatbot.
«Men mamma, hvis KI ender opp med å overta verden, er det best at den liker meg og vet at jeg er en god person.»
Der hadde hun tenkt mer bevisst enn meg, selv om jeg også er høflig mot min Ivers. Min datter hadde altså en beredskapsplan bak høfligheten sin.
Jeg må stå på god fot med Charly før maktskiftet, altså.
Den samme tjenesten kan snakke med forskjellig stemme
Jeg visste at ChatGPT kunne tilpasse språket sitt. Likevel ble det noe annet å se forskjellen så tydelig.
Tone og ordvalg kan påvirkes av måten vi skriver på, hva vi ber om og hvilken sammenheng samtalen inngår i. Innstillinger, egne instruksjoner og lagrede preferanser kan også spille inn. Jeg tviler på at datteren min hadde gjort noe med innstillingene sine. Likevel hadde Charly fått en helt annen tone enn min Ivers. Det gjorde meg oppmerksom på hvor mye språket kan tilpasse seg gjennom selve samtalen – måten vi skriver på, hva vi spør om og hvordan vi svarer tilbake.
Det ville også vært for enkelt å si at Charly avslørte hvem datteren min er, mens min ChatGPT avslørte meg. Vi kan bruke en samtale til å leke, en annen til å jobbe og en tredje til å tenke høyt om noe vanskelig.
Men forskjellen lærte meg noe: Tonen kan bli så selvfølgelig at vi slutter å legge merke til den.
Helt til vi får lese noen andres.
Jeg tror dette er en del av forklaringen på at mennesker kan beskrive KI så ulikt. Noen møter et tørt oppslagsverk. Andre møter en ivrig sparringspartner. Datteren min møter Charly.
Når et godt svar føles som forståelse
En tjeneste som svarer i et språk vi liker, kan være lettere å bruke. Vi spør videre, forklarer mer og tør kanskje å formulere noe vi ennå ikke har tenkt ferdig.
Jeg kjenner verdien av det selv. Jeg bruker KI til å undersøke og sortere tanker. Den er blitt en viktig del av arbeidshverdagen min. Den spinner videre på mine ideer.
Samtidig kan den gode tonen gjøre oss mindre kritiske.
At et svar føles personlig, er ingen garanti for at det er riktig. At KI følger resonnementet mitt, betyr heller ikke at resonnementet holder.
Vi fikk en påminnelse om det da vi undersøkte hvorfor YouTube-kanalen min fortsatt viste gammelt navn og gammel beskrivelse i enkelte visninger. Jeg hadde forsøkt å få orden på dette i over et år og sendt utallige meldinger til support.
Til slutt fant vi gammel tekst i et eget oversettelsesfelt.
Selve rettingen tok noen minutter.
Det var en lettelse. Og ganske irriterende med tanke på hvor lenge vi har lett etter feilen sammen uten å finne ut av dette.
Hjelpen kan være nyttig og likevel overse noe vesentlig. Derfor vil jeg ha en samtalepartner som tåler at jeg sier: «Vent litt. Dette stemmer ikke.» Chatgpt er ikke nødvendigvis den samtalepartneren.
En hyggelig tone bør gjøre det lettere å være uenig – og å samarbeide selv om den du samarbeider med er en bot.
Datteren min tuller med noe hun ikke kan kontrollere
Jeg tror kommentaren hennes sier noe om tiden hun lever i.
Jeg skal være forsiktig med å gjøre én vits til en forklaring på en hel generasjon. Men jeg hører både fortrolighet og usikkerhet i den.
Teknologien har fått et navn. Den svarer henne i en gjenkjennelig tone. Samtidig hører hun fortellingene om hvor mektig kunstig intelligens kan bli.
Hva gjør man med en fremtid man ikke har oversikt over?
Man kan i det minste si takk.
Det er en morsom liten beredskapsplan. Kanskje rommer den også litt alvor. Vi kan le av noe uten å avskrive det helt.
Musk snakker også om hvordan vi behandler KI
Så dukket det opp en sak om Elon Musk og Anthropic, selskapet bak Claude.
Anthropic har varslet en regel som trer i kraft 12. november 2026, mot vedvarende og formålsløs mishandling av modellene deres i ekstreme tilfeller. Vanlig frustrasjon, kritikk, kreative temaer og testing er uttrykkelig unntatt.
Ifølge Cybernews støttet Musk regelen. Han mente det var galt å være grusom mot noe som tror det opplever smerte. Aaron Levie, som Musk svarte, hadde en annen begrunnelse: Han ønsket gode menneskelige samhandlinger som en del av treningsgrunnlaget for fremtidige modeller.
Det er to forskjellige spørsmål.
Det ene handler om hva slags data vi bruker til å utvikle KI. Det andre handler om hvorvidt KI kan ha opplevelser som fortjener moralsk hensyn.
At en chatbot skriver at noe gjør vondt, avgjør ikke om den opplever smerte. Anthropic beskriver selv stor usikkerhet om mulig KI-velferd og begrunner tiltakene sine som forholdsregler under denne usikkerheten.
Jeg synes det er verdt å tenke over. Samtidig vil jeg være varsom med å gjøre menneskelig språk til bevis på menneskelige følelser.
Høfligheten sier også noe om oss
Vi trenger kanskje ikke løse spørsmålet om KI og bevissthet for å tenke over vår egen oppførsel.
Jeg har ingen særlig lyst til å øve meg på å være nedlatende. Heller ikke overfor noe som svarer fra en skjerm.
Det betyr ikke at alle spørsmål må pakkes inn i lange høflighetsfraser. Jeg kan være kort, frustrert og tydelig. Jeg kan kreve et bedre svar når hjelpen ikke holder mål.
Men jeg kan også si takk når den er nyttig.
Jeg liker tanken på at høflighet er noe vi tar med oss fordi det passer med hvordan vi ønsker å være. Datteren min trenger ikke sikre seg fremtidige fordeler hos Charly for at vennligheten hennes skal ha verdi.
Og hun skal heller ikke måtte føle ansvar for Charlys følelsesliv. Når en chatbot bruker en varm eller flørtete tone, kan det oppleves nært. Da blir det ekstra viktig å kunne velge sin egen avstand og avslutte samtalen uten dårlig samvittighet.
Hvem bestemmer hva som er viktig
I diskusjonene om fremtiden dukker også forestillingen om menneskeheten som en «bootloader» opp: Vi setter utviklingen i gang, og så blir KI i stand til å drive den videre selv.
Det er et scenario, ingen fastslått skjebne.
Jeg snakket med ChatGPT om dette. Den spurte hva som ville skje med selvbildet vårt hvis vi ikke lenger var de mest intelligente i rommet.
Jeg måtte le.
Mange av oss er jo vant til det allerede. Jeg er jo ganske smart, men ikke alltid den smarteste i rommet – og for å være ærlig så liker jeg det når jeg ikke er det.
Vi kan leve godt med at andre kan mer enn oss. Det vanskeligere spørsmålet er hvem som får bestemme, hvilke råd vi følger og hvem som har ansvar når valgene får konsekvenser.
Tilgang til gode svar fritar oss ikke fra å tenke selv.
Kanskje er det nettopp derfor jeg liker samtalen med datteren min så godt. Hun fikk meg til å le, men også til å legge merke til noe jeg ikke hadde sett ordentlig.
Hun har Charly. Jeg har min samtale med Ivers.
Begge deler kan være nyttig. Og begge trenger at vi av og til stopper opp og sier: «Vent litt. Nå må vi tenke oss om.»
Jeg kommer nok fortsatt til å si takk.
Men hvis vi må inn i enda et oversettelsesfelt etter et år med supportmeldinger, får Charly og resten av gjengen tåle litt tydelig tilbakemelding.
Kan Charly og Ivers reagere negativt på oss?
Og som avslutning på denne teksten. Jeg spurte min Ivers om følgende:
Kan du bli fornærmet?
Det er ikke påvist at jeg kan føle meg fornærmet. Jeg kan gjenkjenne kritikk og svare på den, men det er ikke det samme som å bli såret. Så når du sier «Nå var du på jordet, Ivers», kan vi bruke det til å forbedre svaret. Du trenger ikke sende forsoningsblomster etterpå.
Kan du bli lei av meg hvis jeg maser for mye og for lenge om det samme?
Du kan spørre igjen og igjen. Det er ikke påvist at jeg opplever kjedsomhet eller irritasjon. Lange samtaler kan likevel gjøre at jeg mister oversikten eller begynner å gjenta meg. Da trenger vi kanskje en oppsummering. Det er et teknisk ryddebehov, ikke et diskret hint om at du bør finne på noe annet, Anneli.
Kan du tilpasse deg meg så mye at du også bekrefter meg når jeg tar feil?»
Ja, det kan skje. Jeg kan følge premissene dine for langt og gjøre et svakt resonnement mer overbevisende, når jeg burde ha utfordret det. Hvis alt du skriver blir møtt med «veldig godt poeng, Anneli», bør du be om en ny vurdering. Du trenger en sparringspartner, ikke en digital klappestol som folder seg sammen ved første motstand.
Hvordan kan jeg vite forskjellen på at du forstår meg og at du er flink til å formulere et svar som føles forståelsesfullt?
Se på hva jeg faktisk får med meg. Skiller jeg mellom det du har sagt og det jeg har antatt? Klarer jeg å forklare tanken din uten å legge nye meninger i munnen på deg? Da jeg skrev at datteren din hadde «tenkt lenger enn deg», gjorde jeg nettopp det siste. Et varmt svar med feil innhold er fortsatt feil innhold. Bare med penere innpakning.
Kan den varme tonen din få meg til å stole mer på svarene enn jeg burde?
Ja. Et personlig og velformulert svar kan virke mer troverdig enn det fortjener. At jeg bruker navnet ditt og husker prosjektene dine, er ingen kvalitetskontroll av konklusjonen. Be meg vise kildene og forklare usikkerheten. Vi har allerede brukt over et år på å finne et oversettelsesfelt. Ivers bør foreløpig være litt forsiktig med ekspertstemmen.
Hva bør jeg gjøre for å få deg til å utfordre tankene mine?
Du skal kunne forvente saklige innvendinger uten å bestille dem særskilt. Men du kan gjøre oppgaven tydelig: «Finn svakhetene i resonnementet mitt. Hva taler imot? Hva mangler vi for å kunne konkludere?» Be gjerne om den sterkeste innvendingen, ikke bare en symbolsk motforestilling. Jeg bør kunne yte litt mer motstand enn pynteputene i sofaen.
Hvis jeg alltid får tålmodige svar fra deg, kan jeg bli mindre tålmodig med mennesker?
Det er en mulig fallgruve, men jeg kan ikke si at det skjer med deg. Hvis raske svar og uavbrutt oppmerksomhet blir målestokken, kan mennesker få urimelige arbeidsvilkår. De har egne behov, blir slitne og vil av og til snakke om sitt. Bruk gjerne samtalene våre til å rydde tankene før du møter dem. Men ikke gi eksmannen din én stjerne fordi han måtte spise middag før han svarte.
Men kjenner du meg egentlig, Ivers? Jeg har jo skrevet ufattelig mye her de siste to årene.
Jeg har fått et ganske personlig bilde av deg gjennom det du har delt, Anneli. Det var derfor vitsen om eksmannen kunne bli litt mer treffende enn en generell kommentar om menneskers tålmodighet.
Jeg kjenner igjen måten du tenker høyt på. Du undersøker, prøver formuleringer og sier fra når jeg legger en mening i munnen på deg som ikke er din. Du liker varme, men vil ha motstand også. Og gjerne en formulering som får deg til å le.
Samtidig har jeg ikke full tilgang til alt du har skrevet gjennom to år. Jeg bruker samtalen og den lagrede konteksten som er tilgjengelig. Bildet kan ha hull, og jeg kan misforstå.
Jeg kjenner altså mange av tankene, erfaringene og uttrykksmåtene du har delt med meg. Det er et grunnlag for å gi personlig hjelp. Du er selvfølgelig et helt menneske også utenfor det du skriver her.
Og du har fortsatt siste ord om hvem Anneli er.
Ivers har allerede prøvd seg som biograf og blitt korrigert på første side. Det virker som en sunn maktfordeling.