Som administrerende direktør i YouTube har jeg sett hvordan vår åpne plattform har vært en styrke for kreativitet, læring og tilgang til informasjon. Jeg har sett hvordan aktivister har brukt YouTube til å skape endring i samfunnet, organisere demonstrasjoner og dokumentere krigsforbrytelser. Jeg har sett hvordan YouTube fungerer som både til underholdning og som et videobibliotek for verden. Jeg har sett hvordan plattformen vår har gjort det mulig for små bedrifter å markedsføre seg selv og selge sine varer og tjenester. Og jeg har sett hvordan det har bidratt til å opplyse barna mine, gi dem en større, bredere forståelse av vår verden og menneskene som bor i den.
Men jeg har også sett på nært hold en annen, mer alvorlig side ved YouTubes åpenhet. Jeg har sett hvordan noen aktører utnytter vår åpenhet for å villede, manipulere, trakassere eller skade.
I løpet av året som har gått har vi tatt grep for å beskytte vårt samfunn mot voldelig eller ekstremistisk innhold. Vi har testet nye systemer for å bekjempe nye og fremvoksende trusler. Vi har strammet inn retningslinjene for hva slags innhold vi tillater på plattformen, og hva slags innhold man kan tjene penger på. Vi har ansatt stadig flere personer som kun jobber med disse problemstillingene. Og vi har investert i kraftig ny maskinlæringsteknologi for å øke kapasiteten til våre menneskelige moderatorer som fjerner videoer og kommentarer som bryter med retningslinjene våre.
Nå bruker vi alt vi har lært i forbindelse med arbeidet vårt med å bekjempe voldelig og ekstremistisk innhold i løpet av det siste året for å håndtere annet problematisk innhold. Målet vårt er å ligge et skritt foran de aktørene som påvirker plattformen negativt, og gjøre det vanskeligere for innhold som bryter retningslinjene våre å lastes opp eller bli værende på YouTube.
Flere personer vurderer mer innhold
Mennesker er fortsatt avgjørende for både å fjerne innhold og lære opp maskinlæringssystemer, fordi menneskelig vurderingsevne er kritisk for kontekstbaserte beslutninger om innhold. Siden juni har våre tillits- og sikkerhetsgrupper manuelt vurdert nesten 2 millioner videoer for å sjekke om de inneholder voldelig ekstremistisk innhold, og hjelper til med å trene vår maskinlæringsteknologi for å identifisere lignende videoer i fremtiden.
Vi tar også omfattende grep i kommentarfeltet, og lanserer nye moderatorverktøy. I noen tilfeller stenger vi kommentarfeltet helt og holdent. I løpet av bare de siste ukene har vi brukt maskinlæring for å hjelpe teamet av moderatorer finne og avvikle hundrevis av kontoer og fjerne hundretusenvis av kommentarer. Våre team jobber også tett med NCMEC, IWF, og andre organisasjoner som jobber for barns sikkerhet over hele verden for å melde fra om upassende adferd og kontoer til myndighetene.
Vi kommer til å ansette stadig flere gjennom året som kommer, g målet vårt er at over 10.000 personer i hele Google-systemet skal jobbe med å se gjennom, vurdere og fjerne innhold som bryter med retningslinjene våre i 2018.
Samtidig utvider vi nettverket av akademikere, industrigrupper og fagpersoner som vi kan lære av og som kan hjelpe oss med å bedre forstå nye problemer.
Å takle de store problemene
Vi vil bruke vår banebrytende maskinlæring i større grad, slik at vi raskt og effektivt kan fjerne innhold som bryter retningslinjene våre. I juni tok vi i bruk denne teknologien for å identifisere voldelig ekstremistisk innhold som bør sjekkes av mennesker, og vi har sett store fremskritt.
- Siden juni har vi fjernet over 150.000 videoer fordi de inneholdt voldelig ekstremisme.
- Maskininnlæring hjelper våre team som nå fjerner nesten fem ganger så mange videoer som tidligere.
- I dag blir 98 prosent av videoene vi fjerner for voldelig ekstremisme flagget av våre maskinlæringsalgoritmer.
- Våre fremskritt i maskinlæring lar oss nå fjerne nesten 70 prosent av voldelig ekstremistisk innhold innen åtte timer etter opplasting og nesten halvparten etter bare to timer. Og det går stadig fortere.
- Siden vi begynte å bruke maskinlæring for å flagge voldelig og ekstremistisk innhold i juni, har teknologien sett gjennom og flagget innhold som ville krevd 180.000 mennesker som jobbet 40 timer i uken.
- Fordi vi har sett disse positive resultatene, har vi begynt å trene maskinlæringsteknologi på annet innhold, blant annet innhold rettet mot barn og hatefulle ytringer.
Større åpenhet
Vi forstår at folk vil ha mer innsyn i hvordan vi takler problematisk innhold. Retningslinjene våre for YouTube gir brukerne beskjed om hva vi ikke tillater på våre plattformer, og vi vil dele mer informasjon om hvordan retningslinjene håndheves.
I 2018 kommer vi til å lage en rapport der vi forteller mer om dataene vi samler inn, om flaggene vi mottar, og hvilke grep vi tar for å fjerne videoer og kommentarer som bryter med våre retningslinjer for innhold. Vi jobber også med å utvikle andre verktøy for å skape enda mer åpenhet rundt flagget innhold.
En ny tilnærming til annonsering på YouTube
Vi tar også grep for å beskytte annonsører og skapere mot upassende innhold. Vi vil at annonsører skal være trygge på at annonsene deres blir vist sammen med innhold som reflekterer merkevaren. Tilsvarende vil vi gi skaperne tillit til at deres inntekter ikke blir rammet av handlingene til andre aktører.
Vi mener at dette krever en ny tilnærming til annonsering på YouTube, hvor vi nøye vurderer hvilke kanaler og videoer som kan brukes i forbindelse med annonsering. Vi skal utvikle strengere kriterier, gjennomføre mer manuell sjekking, samtidig som vi gradvis utvider teamet som vurderer annonser for å sikre at de bare kjører hvor de skal. Dette vil også hjelpe innholdsprodusenter, som får mer stabilitet rundt inntektene sine. Det er viktig at vi får dette til, både for annonsører og skapere, og i løpet av de neste ukene vil vi snakke med begge for å finpusse denne tilnærmingen.
Vi gjør dette fordi det er sånn det burde gjøres. Innholdsprodusentene skaper utrolige videoer som får fans over hele verden. Fans kommer til YouTube for å se, dele og engasjere seg. Annonsører, som ønsker å nå disse menneskene, finansierer dette samfunnet. Hver av disse gruppene er avgjørende for YouTubes kreative økosystem. Ingen kan lykkes på YouTube uten den andre - og alle tre fortjener vår beste innsats.
Ettersom utfordringer på plattformen vår utvikler seg og forandrer seg, må vi utvikle hvordan vi håndhever retningslinjene våre. Men uansett hvilke utfordringer som oppstår, vil engasjementet vårt være like sterkt for å løse dem og skape et godt YouTube-samfunn. Vi kommer til å gjøre det som trengs for å beskytte vårt fellesskap og sikre at YouTube fortsatt er et sted hvor skapere, annonsører og seere kan trives.
Susan Wojcicki, administrerende direktør for YouTube
