Conscious prompting: Spoons retningslinjer for AI

Conscious Prompting – Retningslinjer for bruk av generativ AI i Spoon

1. Hensikt
Hensikten med disse retningslinjene er å sikre at Spoon har retningslinjer for ansvarsfull og etisk bruk av generativ AI – vi kaller det for Conscious Prompting. AI-verktøy skal kunne brukes for å utvikle vår virksomhet, effektivisere prosesser, være et kreativt verktøy og brukes for å utforske nye typer innhold som holder høy kvalitet. Det er samtidig viktig at vi legger et stort fokus på integritet, datasikkerhet og åpenhet – internt og ut mot kunden.

Disse retningslinjene omfatter alle som jobber i samtlige deler av leveransen ut mot kunden. Derfor gjelder den alle ansatte i Spoon, underleverandører og partnerbyråer. Mot underleverandører skal dette reguleres i en avtale og mot partnerbyrået ved å dele disse retningslinjene.

Utviklingen av AI skjer raskt, og våre retningslinjer vil kontinuerlig utvikles og tilpasses.

2. Generelle retningslinjer

Tenk alltid på følgende:

2.1 Ansvar

Spoon er ansvarlig for all bruk av AI-generert innhold som brukes eksternt, i tillegg til et behandlingsansvar i GDPR. Det er derfor viktig at den som skaper AI-generert innhold kjenner til gjeldende lover, regler og retningslinjer for personvern, datasikkerhet, etikk og immaterielle rettigheter/opphavsrett.

2.2 Hva er AI-verktøyenes rolle i produksjonen vår?

Vi ser på generativ AI som et verktøy som i første omgang vil styrke vår kompetanse, fremfor å erstatte den. Stadig flere av våre arbeidsoppgaver vil kunne automatiseres og effektiviseres med hjelp av AI, men på nåværende tidspunkt har vi ikke avgjort på hvilken måte vi skal integrere AI som en del av våre leveranser. Dette er noe vi kontinuerlig vurderer og evaluerer.

2.3 Bruk av AI-verktøy

Det finnes ikke en endelig oversikt over hvilke AI-verktøy som kan brukes, men alle som bruker verktøyene skal sikre at de kan levere i henhold til våre retningslinjer. AI-verktøyene er ikke en integrert del av arbeidshverdagen for alle, og lisenser til betalte versjoner vurderes derfor av nærmeste leder. Det er lagt inn en søknad om Enterprise-løsning fra ChatGPT, men det kan ta tid før den behandles på grunn av stor pågang.

3. Innholdsproduksjon

3.1 Aksept fra kunde

Før AI brukes til en sluttleveranse i et kundeprosjekt, så skal kunden ha godkjent bruk av AI. Idegenerering, research eller skissearbeid (mockups, storyboards, etc.) kan gjennomføres uten at kunden godkjenner på forhånd.

3.2 Kvalitetskontroll og kildekritikk

Bruker du AI-verktøy har du også ansvar for å sikre at resultatet er korrekt, saklig og av høy kvalitet. I dette inngår blant annet å undersøke kildene som er brukt for å generere innholdet. Generative tekstverktøy som ChatGPT kan både lyve og feilinformere. Derfor skal alt innhold som brukes til videre produksjonsprosess kvalitetssikres før det tas videre.

3.3 Foredling av innhold

Med mindre oppdraget fra kunde tydelig etterspør bruk av originalt AI-generert innhold, så skal innholdet alltid foredles av den ansvarlige før det brukes. Dette gjelder særskilt bruk av tekst-innhold.

3.4 Åpenhet og troverdighet

Innhold som er utviklet med hjelp av AI skal alltid merkes som AI-generert. Dette gjelder spesielt bruk av AI-genererte bilder og video. Det kan ikke under noen omstendigheter brukes AI-generert innhold som kan villede noen til å tro at en oppdiktet hendelse er ekte. Alt innhold som simulerer en ekte situasjon skal være ekstra godt merket. Dette kan for eksempel være bilder eller video av ekte personer, hendelser eller steder. Skillet mellom ekte historier og oppdiktet reklame skal være svært tydelig ved bruk av AI.
I noen tilfeller vil det være aktuelt å bytte ut et stockbilde med et AI-generert bilde. Så lenge bildet oppfyller øvrige krav, så kan dette gjøres ved å merke bildet. Merking skal skje enten ved å ha en tydelig kreditering eller en tekst over bilde/film.

4. Etiske hensyn

4.1 Taushetsplikt

Ulike AI-verktøy har ulike måter å behandle dataen du legger inn, og de fleste bruker dataen for å trene opp AI-modellene. Det skal derfor aldri legges inn taushetsbelagt data eller data som bryter med personvern.

• Legg aldri inn personlige opplysninger eller konfidensiell informasjon fra kunde
• Anonymiser kunde og personer
• Der det er mulig, kryss av for at verktøyet ikke bruker dataen din til å trene opp modellene
• Legg aldri inn dokumenter du ikke har tillatelse til å dele

4.2 Svakheter ved AI

Alle som bruker AI-verktøy skal kjenne til verktøyenes svakheter og mangler.
Fordi AI er skapt av mennesker og trent på menneskeskapt data, kan den ha feil og/eller fordommer. Den kan diskriminere og har lært fra data som ikke alltid hensyntar likestilling og mangfold. Resultatene er  derfor ofte ensformige og generiske.

• AI har ikke et moralsk kompass og kan ikke ta beslutninger basert på etiske prinsipper.
• AI mangler evnen til å vurdere kildenes troverdighet som betyr at informasjonen den produserer kan være basert på upålitelige eller feilaktige kilder.
• Tekstverktøy som ChatGPT vil lyve hvis den ikke vet svaret.

Dette tydeliggjør viktigheten av at alle som bruker generativ AI bruker den bevisst og ansvarsfullt. Til dette bruker vi begrepet Conscious Prompting.

4.3 Conscious Prompting

Conscious Prompting er Spoons egen måte å definere ansvarsfull bruk av AI. Det handler om å ha en bevisst tilnærming til AI når vi prompter – og når vi får resultatet fra det vi prompter. Vi skal engasjere oss med AI med omtanke, holde fast ved våre etiske prinsipper, og sikre høy kvalitet i alt vi gjør. Vi skal aldri miste vår moralske retning eller tøye på sannheten, og alltid levere resultater som er inkluderende, mangfoldige og representative.

Før vi prompter en input i verktøyet skal vi alltid spørre oss:

• Er dette noe som bør promptes?
• Er dette egentlig informasjon jeg ikke skal dele?

Når vi har fått resultatet fra AI skal vi spørre oss selv:

• Er det etisk riktig å bruke dette innholdet?
• Er det korrekt? Er bruk av innholdet med på å manipulere virkeligheten?
• Er resultatet representativt?
• Er det mangfoldig og inkluderende?

For å støtte dette arbeidet har vi Conscious Promptere på alle kontorer. I Oslo er dette Torunn Holm. Er du  sikker på korrekt bruk av AI, kan du alltid ta kontakt med din nærmeste Conscious Prompter.