Hva ligger i begrepet “Conscious prompting”?

Generative AI-verktøy som GPT-4 og Midjourney er her for å bli. Men med deres inntog kommer også noen utfordringer. Så mange som 70 prosent av virksomheter har ikke retningslinjer for AI. Det er forståelig med tanke på at vi er helt i startgropen av AI-revolusjonen, men det er også bekymringsverdig fordi AI har noen klare svakheter som det er viktig at alle som bruker verktøyene forstår. 

Vi i Spoon har valgt å møte AI med entusiasme og nysgjerrighet, kombinert med en bevisst og ansvarlig tilnærming. Og det er her “Conscious prompting” kommer inn. Begrepet handler om å være bevisst i vår interaksjon med AI, og det er en forpliktelse til å sikre at AI-generert innhold er kvalitetssikret av en bevisst rådgiver for å møte verktøyene med deres muligheter, begrensninger, svakheter og skjevheter.

I Spoon har vi gått sammen på tvers av landegrenser for å bli enige om felles kjøreregler, og vi har egne conscious prompters på hvert kontor. Vi håper at flere selskaper kan la seg inspirere til å innføre det samme, så her får du noen viktige grunner til hvorfor dette er noe du som arbeidsgiver må prioritere:

Manglende mangfold og representasjon

I Spoon har vi alltid trodd på kraften som ligger i gode historier. Historier som resonnerer med og berører mennesker, uansett hvor de kommer fra eller hvordan de ser ut. Med hjelp av AI kan vi nå fortelle enda flere historier, men vi må sørge for at disse historiene er like varierte og mangfoldige som verden rundt oss.

Når verktøyene, på mange måter, gjenspeiler det de har lært fra tidligere data kan det bli litt ensformig, nettopp fordi mangfold og representasjon ikke alltid har stått høyest på agendaen. For eksempel, prompter du bilder i Midjourney, vil en “middelaldrende kvinne” sannsynligvis se ut som hun er 25 år, hun er hvit og ganske pen. Ber du ChatGPT skrive et manus om en venninnegjeng fra Oslo, så heter de Mia, Nora og Emilie – og de er opptatt av sosiale medier og ballett. Dette er et klart tegn på at AI-verktøyene trenger veiledning for å generere innhold som representerer verden slik den faktisk ser ut. Vi har kommet så mye lenger når det gjelder å representere ulike kjønn, etnisitet, kroppstyper, interesser, legninger og fysiske evner. Hvis vi ikke er nøye med hvordan vi bruker AI, risikerer vi å miste denne verdifulle fremgangen. 

Personvern og taushetsplikt

Hvorvidt inputen du prompter brukes til å lære opp AI-ene og hvor trygg informasjonen du legger igjen er, varierer fra verktøy til verktøy. Det er derfor ekstremt viktig å ha tydelige retningslinjer på hvilke verktøy som kan brukes på hvilken måte. Vi har for eksempel observert personer (ikke i Spoon!) som bruker ChatGPT til å vurdere om en person er egnet til en utlyst stilling. Tar du ikke hensyn til verktøyenes skjevheter og svakheter, risikerer du både å diskriminere søkere og ikke minst dele informasjon om personene du ikke har tillatelse til å dele, i et verktøy som ikke garanterer at informasjonen din er trygg.

Opphavsrett og kildekritikk

Når generative AI-verktøy produserer innhold som ligner på eksisterende verk, enten det er tekst, musikk, bilder eller annet, så kan det bryte med opphavsretten. I tillegg mangler AI evnen til å vurdere kildenes troverdighet som betyr at informasjonen den produserer kan være basert på upålitelige eller feilaktige kilder. 

Vi har lang tradisjon med rådgivere som har med seg kompetanse på kildekritikk, etiske vurderinger og opphavsrett, og våre kunder skal være trygge på at vi aldri leverer innhold som ikke er kvalitetssikret av bevisste rådgivere.

Conscious prompting handler om å ha:

• Retningslinjer for AI som er i tråd med våre verdier og holdninger 
• Intern opplæring av alle rådgivere
• “Conscious promptere” på alle Spoon-kontorer – personer som forstår dataens skjevheter og kan prompte på en inkluderende måte
• En finjustert ChatGPT for å sikre at den gir oss innhold som samsvarer med det vi ønsker å generere
• En oversikt over hvilke verktøy vi kan bruke for å ikke snuble i personvern- og taushetsfeller

Har du ikke retningslinjer på plass, så spør deg selv dette før du prompter neste gang: Er dette noe som bør promptes? Er dette egentlig informasjon jeg ikke skal dele? Er resultatet representativt? Er det mangfoldig og inkluderende?