[Automatisk tekstet av Autotekst med NB Whisper. Kan inneholde feil.]
Yes, altså GPT-UiO er nå cirka et halvt år gammel.
Så vi skal se litt bakover i tid, men mest fremover.
Og så vidt oss bekjent, så er vi det første universitetet i Europa som tilbyr en personvennlig og GDBR-compliant stats-GPT-tjeneste.
Og til alle studenter og ansatte.
Så i våre nordiske naboland så klør de seg fortsatt litt i hodet og lurer på hvordan fjellapene har fått til dette.
Så timingen på lanseringen var rimelig på stell.
Så en liten historie fra kulissene.
7.9.2023 var Jonas Gahr Støre og Sandra Borch på campus for å annonsere at ...
Regjeringen satser én milliard kroner på norsk KI-forskning, og rektor så da sitt snitt til å lansere vår betaversjon.
Merk at dette var tre uker før vi egentlig skulle lansere, så han kunne da meddele at jo, hadde en egen, oppegående GBT-løsning.
Han hadde jo tilgang, men han lurte litt på greia med dette betastempelet, men i all verden.
Dette funket jo fint, det her.
Vi har en løsning.
Traff ikke kanskje helt på dialekten, men uansett ... Vi hadde en løsning, og vi holdt hodet kaldt frem mot lansering.
Det gikk veldig bra, ble godt mottatt.
Og ved UiO så fikk alle tilgang til en brukervennlig generativ KI med universell utforming, som var rundt 1. oktober.
Og det er sannsynligvis ingen webapplikasjoner ved Universitetet i Oslo som har vært så hurtigvoksende som denne.
Det var fra null til 10 000 brukere i løpet av noen få uker.
Så nå er vi oppe i ca.
26 000 brukere totalt, inkludert eksterne.
Antall tokens som har flydd gjennom tjenesten siden lansering, var ved utgangen av mai 994,5 milliarder.
Så det betyr at tallet nå er godt over 995 milliarder.
Så det er ikke ubetydelig.
Millioner?
Hva?!
Snart milliarder.
Og studenter er ivrigste brukere.
Det er altså en god slump ansatte.
Så det vi har gjort med GPT-VIO, er en god begynnelse.
Men nå tenker vi tiden er moden for å rette blikket fremover.
De kommersielle løsningene fra bl.a.
OpenAI begynner å bli urovekkende gode.
Så dette er en utfordring.
Vi må holde oss relevante.
Og én måte å gjøre det på, det er å fokusere på funksjonalitet som er skreddersydd for høyere utdanning og forskningsformål.
Så veikartet for videre utvikling av GBT-UiO.
Det er også noen big-heary goals her, men det gir en rimelig god indikasjon på de vesentligste funksjonene som vi tenker å jobbe videre med.
Én ting er muligheten å enkelt kunne dele instruksjoner, altså custom instructions, for eksempel med en gruppe studenter på en seminar.
Fileopplastning for sammendrag og analyser, altså det å kunne velge alternative modeller som kjører på lokal maskinvare med opptil røde data.
Støtte for Vision eller maskinsyn, det kan for eksempel brukes til å tolke og analysere data som er presentert i grafer, diagrammer eller andre type visualiseringer.
Så Vision skal også kunne lese og tolke håndskreven tekst.
En annen ting er muligheten for å bruke GPT-4-OMNI, som er den nyeste modellen fra OpenAI.
Så dette er en multidal modell, hvis man kan si det, som betyr at den kan generere innhold på tvers av forskjellige former for input.
Altså evnen til å resonnere tilnærmet til sanntid med en kombinasjon av lyd, maskinsyn og tekst.
Så det agile produktteamet som utvikler GBTUO, tar gjerne utgangspunkt i noen brukerhistorier.
Og dette er en form for arbeidshypoteser som for det meste har forankring i virkeligheten.
Så er det opp til produktteamet hvordan man løser disse.
Den første her har sitt utspring i et uformelt samarbeid med en professor som heter Thomas Espeseth.
Han er professor i kognitiv og nevropsykologi.
Ideen her er å tilrettelegge for én-til-én-veiledning av studenter på et emne, i første omgang på psykologi.
Da er det ønskelig å implementere beste praksis-læringsteknikker som er empirisk kvalidert og velprøvd.
Altså tilby en slags persontilpasset og interaktiv læringsopplevelse som reflekterer fordelene med én-til-én-veiledning.
Så ved å bruke store språkmodeller og et lag av spesifikk kunnskap og såkalt strategisk algorithmic prompting, så skal AI-veilederen kunne tilpasse seg individuelle læringsbehov for studenter.
Og noe av dette kan man gjøre i dag, med nøye utformet system prompts.
Skal se på et eksempel.
Dette er et eksempel på en systemprompt for en KI-veileder.
Merk at denne kun er gjort med tilpassede instruksjoner, så i fremtiden kan man tenke seg at emneansvarlig kan laste opp kunnskap i form av litteratur og pensum til en slags veilederbot, altså fine-tuning for et spesifikt emne.
Så denne er på 1768 tegn og gir GBT-en et klart definert mål.
Den skal være positiv, oppmuntrende og hjelpe studenter med å forstå konsepter og igjen stille spørsmål.
Så en effektiv og god systemprompt for GBT-4 eller en hvilken som helst språkmodell må være rimelig spesifikk og inkludere en del kontekst, så modellen måtte styres i riktig retning.
Altså gi den nok bakgrunnsinformasjon og klare instrukser for oppgavene den skal utføre.
Og så kreves det gjerne en litterativ tilnærming.
Hvor man raffinerer promptene basert på Apet og finjusterer.
Så skal vi over på eksempel.
Det er alltid mer spennende.
Så skal vi prøve denne veilederboten.
Da velger jeg en instruksjon som jeg allerede har lagt inn.
Den heter nå PI2Tour.
Og så kan vi begynne å spørre den.
Hva kan du hjelpe meg med?
Den kan definitivt hjelpe meg med det jeg trenger.
Det er fint.
Hva ønsker du å lære om i dag?
Hva er tema eller subject eller problemstilling?
Jeg ønsker å lære om ... utviklingspsykologi ... Fine greier.
Flott.
Større.
Det er interessant.
Veldig positivt.
Så vil den jo spørre om mitt nivå.
Prøve å tilpasse seg mitt kunnskapsnivå.
Nei, jeg vil si lavere grad, egentlig.
Lavere ... grad.
Sånn basic, ikke sant?
Lavere grad student.
Sånn ... Så nå starter vi på et grunnleggende nivå.
Kan du fortelle meg hva du allerede vet om emnet?
Nå må vi reflektere litt.
Jeg kan vel om stadier i ...
Selvfølgelig.
Fint.
Og så begynner han å levere relevant litteratur og tenkere rundt kognitiv utvikling, psykologi, osv.
Så da har vi det gående.
Og det som hadde vært utrolig kult, det var jo hvis den allerede hadde lest pensum på mitt emne.
Da kunne jeg begynt å spørre, 'OK, men kan du gi meg en oppsummering av de mest relevante teoriene,' og noen stikkord til å øve på eksamen, for eksempel.'
Så dette tror vi har en fremtid.
Skal vi sjå, da skal vi ha en brukerhistorie til.
Dette er avanserte greier.
Så jeg vet at utviklerne blir litt nervøse når jeg viser sånne ting som det her.
Men vi tar det som en utfordring.
Altså å foreta en eksplorativ dataanalyse med GPT ... Dette er superelevant for de som jobber med databehandling og analyse.
Så jeg har med et eksempel datasett i dag.
Noen lukosemålinger.
Fra en populasjon som også inkluderer en del livsstilsvariabler.
Så skal vi se eksempel på mulighetsrommet.
Så jeg kommer nå til å bruke Open AIs, Advanced Data Analytics.
Og vi vet at det er mange av våre brukere som ønsker seg nettopp dette.
Så det er et kraftig verktøy for å få innsikt i data.
Man kan laste opp ulike filttyper.
Ved dette eksempelet er det en CSV-tabell.
Så jeg kan jo røpe for dere, men ikke for GPT-en, at det er noen mønster i datasettet allerede.
Det er noen kollasjoner og sammenhenger.
Så skal vi se om GPT-en finner det.
Så da begynner vi.
Har jeg juksa litt, så jeg har skrevet en prompt i forkant?
Ikke trenger å bruke så mye tid på det.
Så det er hele tiden viktig i kontekst.
Så jeg er forsker og datamanager.
Ønsker å gjøre en explorative data analysis gjerne med noe beskrivende statistikk.
Og så trenger jeg boxplot og litt sånn, og så vil jeg gjerne verifisere dette i et spesifikt spesifikk.
Og svare på norsk.
Takk.
Fair enough.
Så det er transparent.
Dette kan man jo etterprøve direkte, da.
Vi får gi den noe å spise på.
Da laster jeg opp en CSV-film med et datasett.
Her er data.
Så får du se datamatrisen, se hvilke variabler det er.
Så begynner den å gjøre noe med dem.
Laste inn ... Veldig fint, den velger Panda.
Pandas ... Begynner å utforske hva dette er.
Ok, den finner variablene, kjempebra.
Skriver statistikk ...
Og så gir den meg SBC-syntaksen, og den ser også ut til å henge på greip.
Så lager den boksplott borti det også.
Det som er veldig imponerende, er at den finner jo ...
at det er ikke riktig format på variablene.
Så den gjør altså litt databehandling.
Så konverterer den noen string-variabler til numerisk.
For å kunne lage boksplott, ikke sant.
Og de som har jobbet med dette, vet at akkurat denne delen av dataanalyse, altså forberede datasettet for analyse, gjøre datamanagement, det tar tid.
Og denne her gjør det på et halvt minutt.
Boksplott får vi også.
De ser jo veldig fine ut.
Og glukosenivåer ... Mot BMI og vekt ... Waste ... Har du flere spørsmål, trenger ytterligere analyser, så er det bare å gi beskjed.
Og det vil jeg gjerne, for nå lurer jeg på om du ser noe mønster i datasettet.
Og da er det magi.
Er det noen interessante data?
Dette er jo høyst relevant.
Man begynner å se på sammenheng mellom variabler.
Setter opp en korrelasjonsanalyse.
På boksplass for kategoriske variabler skal vi se hva han kommer fram til.
Så er det utrolig kult at han kommenterer hele tiden hva han gjør.
Så du skal skjønne hva som skjer, da.
Oi, oi, oi!
Se her!
BMI og vekt har sterk positiv korrelasjon.
Det er jo som forventa, ikke sant?
Melkosenivået viser moderat positiv korrelasjon med BMI.
Det er også fint.
Så summerer vi her, da.
Smoking ... Sterk korrelasjon mellom BMI, vekt og minimal.
Personer med diabetes har høyere glukosenivåer enn de uten diabetes.
Det er også veldig relevant.
Her burde vi egentlig fått vist de faktiske målene, altså elatbud fra de analysene som er blitt gjort.
Hvis man kjører disse flere ganger, så får man av og til litt sånn ulike summeringer.
Men de gir veldig gode indikasjoner på om det er det faktisk i dette datasettet.
Mye riktig, da.
Så det er kjempespennende at man kan gjøre denne type ting.
Ja, den viser Python-koden.
Vet vi at det er den reelle koden som faktisk blir kjørt?
Det er vel heller en antakelse.
Jeg vet jo egentlig ikke det.
Men vi antar at den viser hva den tenker, på en måte.
Ja, det gjør det jo.
Det er jo ... Er det faktisk Python-kode som kjører?
Det skal det jo være.
Men dette er også for oss litt sånn upløyd mark, da, så noe som vi vil se nærmere på i videre utvikling.
Yes.
Jeg tenkte bare jeg skulle si kudos til utviklerteamet og alle gode hjelpere i arbeidet med GPTVO.
Og vi gleder oss til flere sprinter med utvikling og nye funksjoner som vil øke verdien for brukere.
Så kan vi jo ta litt spørsmål.
Det er jo flere ting vi må prøve å grave litt mer i. Nå så jo jeg at du ikke brukte GPTUJO på den siste demoen din.
Det gjorde jeg, det stemmer.
Hvorfor kan vi ikke gjøre dette i GPTUJO?
Per i dag så har man jo ikke mulighet til å laste opp filer og kjøre kode i tjenesten.
Det vet vi at mange ønsker seg, så det er noe som vi vil se på i fremtidig utvikling.
Det er jo absolutt noe som vi tenker skal komme.
Enten om det skjer via GPTUOs eksisterende modeller, eller at man får kjørt noe lokalt fra noen andre modeller.
Vi må finne ut hva som egner seg.
Jeg har et spørsmål til dette her.
Vi veit at den lyver villig vekk.
Det er et faktum.
Det er nok å referere til journalisten som spør om Harald den sjette.
Virkelig masse kongelig informasjon om han.
Men hvis vi skal være seriøse og bruke det verktøyet som vi burde, så burde man jo verifisere at Byton-koden faktisk gir riktig svar.
Og at du får det den foreslår.
Verifisere at den faktisk virker, og bruke dette til å ...
Lære Pyton, kjøre Pyton og faktisk ta dette seriøst.
Og gjøre det og verifisere hva du får ut.
For det er fullt mulig at det som kommer ut, ikke er til å stole på.
Det er en påstand fra meg, men vi vet at ChatGPT-livet ville vekk.
Sånn at vi må alltid verifisere det som kommer.
Også Pyton-koden.
Kjøre den sjøl.
Absolutt.
Og det er du tilrettelagt for?
At man kan ...
Kopiere kodene over og replikere svarene, da.
Jeg lurte på en ting angående GPT-UiO.
Er det sånn at når man logger inn, så får man en unik identifikator som sendes over til Marksoft når man bruker Abie til ... Ja, utviklerne kan kanskje hjelpe meg litt med ...
Da Dagfinn demonstrerte dette like etter lansering, var det liksom ... Oi, talkien min er utgått, så jeg må logge inn på nytt.
Så API-et funka ikke akkurat der og da.
Det jeg lurer på, egentlig konkret, er jo da om den informasjonen som sendes over for å koble seg til API-et, er personopplysning eller ikke.
Brukernavnet, feidebrukernavnet, det blir jo værende.
Det er snakk om det som sendes over.
Den token som sendes inn til API, er det personopplysning eller ikke?
Sånn som vi har tolka det, så er den ikke en personidentifikator, da?
Ja, Nei og jeg utvikler og ikke jurist, men vi har hatt med jurister på det her.
Du vet jo å treffe akkurat i definisjonen til Dagstilsynet om hva som er en personopplysning?
Om jeg kan reparere til den akkurat nå?
Nei, men jeg tror bare ... Ja, det kan defineres som personopplysninger, derfor har vi avtale med Microsoft, og det er derfor bare vi kan bruke den GPT-løsningen.
For det har vi databehandla.
Bortsett fra at vi sitter på koblingsnøkkelen.
Vi sender personopplysninger til Microsoft, og det har vi avtale om.
Og så sender vi bare til Microsofts datasentre i Europa.
Fikk vi tiltak på akkurat det?
Ja.
Og ved å gjemme feitebrukernavnene for modellen som vi interagerer med, har vi også ...
Redusert risiko, tenker vi.
At personvernopplysninger skal komme på avveier.
Jeg skal bare gi en kommentar til det som ble spurt om i stad, rundt det med kjøring av kode.
Så vidt jeg vet, er det sånn at de nye GPT-modellene vil vise det dersom koden faktisk er førstegenerert og så kjørt i en ekte Python interpreter.
For det har den muligheten til å gjøre, og det vil den indikere som ... Her har jeg gjetta på koden og resultatet, eller her har jeg lagt kode, kjørt det, og dette er resultatet.
Du vil kunne se forskjellen på de to, da.
Det var vel det som Dagfinn pekte på som en datamaskin i Moji i Starter-et.
Denne lille, blå terminalikonaktige saken.
Først takker jeg ... Veldig spennende å høre på dere.
Dere gjør en strålende jobb med å få lagt dette rette også inn mot utdanning.
Og så kommer det alltid et men.
Den har fått inn mye eller lite litteratur om utviklingspsykologi, så svarer den faktisk i fragmenter og delvis feil.
Og ikke får oppdatert forskning om utviklingspsykologi.
Det er et problem når du skal rettelegge for studenter, for da får de noen ganger feil svar.
Det at den representerer på den måten de gjør i disse vinduene, er et læringsproblem.
Der må man jobbe sammen for å se hvordan man kan minimere det problemet.
Og eventuelt også sjekke dette ut mot andre autoritative ressurser.
Dere illustrerer både flotte valg det kan brukes til, og de elementære problemene som gjenstår når man skal gjøre dette domenspesifikt.
Men veldig mye bra arbeid.
Takk skal du ha.
Så vi er helt enig i at dette kan også være et problem for studentene hvis det brukes på feil måte.
Så vi lurer også litt på hvordan en sånn Tuna-modell vil vekte det den eventuelt får av tildelingskunnskap versus det som ligger i Foundation-modellen.
Det er noe av det vi skal prøve å se litt nærmere på nå framover òg.
Hvordan vi ikke har en fintuna opp mot pensum, og må ha flere konkrete prosjekter der en skal vekte f.eks.
konkrete artikler og lignende.
Så vi er veldig spent på utfallet av akkurat det, da.
Og så ser vi også, når vi bruker custom instructions på GPT4 Turbo, så svarer du igjen mye, mye bedre, da.
Det jeg visste i stad her, var tre-fem turbo.
Den ...
Den er ikke fullt så pålitelig innenfor kunnskapsbasen sin som modell fire.
Har vi noen planer om å sette opp lokale language-modeller, GPT-modeller i EduCloud?
Lokale språkmodeller?
Det er jo noe som vi tenker kan være nyttig og relevant.
Kunne velge ulike modeller fra GPT.
Vi kommer til å teste ut noe av det i sommer, antakelig.
Vi har noen som bruker GPT-modeller inn i EduCloud allerede.
Men det er ikke en generell tjeneste.
Det går an å spinne opp språkmodeller inne i Educloud.
Vi har vel ikke gjort det i sted foreløpig, men vi skal ikke se bort fra at vi kan få det til òg, bare vi får oppgradert Kolossus.
Så kommer vi til å se på dette òg.
Det vil nok være en stor greie som skjer i løpet av det neste året.
At vi får spunnet opp enkeltmodeller, og at vi kan ha delte språkmodeller i TSD og Educloud.
Som er de to plassene vi har lyst til å ha disse modellene kjørende.
Ettersom de med åpen kildekode blir bedre, er det interessant å tilby noen av de beste?
For eksempel noen av oss som er gode på goding og nisjebruk også.
Det var jo det dumme du gjorde nå, at du brukte den dårlige arten på utviklingspsykologi.
Den var kjapp i hvert fall.
Det er jeg enig i. Du visste bare ikke at det var en professor i psykologi eller pedagogikk som var klar til å avsløre alle feilene.
Yes.
Tusen takk.