Facebook og Instagram vil merke digitalt endret innhold som “laget med kunstig intelligens”.

Morselskapet Meta vil også legge til en “høyrisikomarkering” på AI-endret innhold som villeder offentligheten i “en viktig sak”.

Meta, som eier Facebook og Instagram, kunngjorde fredag store endringer i retningslinjene for digitalt skapte og endrede medier, før de gikk til valg på å teste sin evne til å kontrollere villedende innhold generert av kunstig intelligens.

Den sosiale mediegiganten vil i mai begynne å bruke “Made with AI”-etiketter på AI-genererte videoer, bilder og lyd som legges ut på Facebook og Instagram, og utvider dermed en policy som tidligere bare har omfattet et smalt utvalg av manipulerte videoer, sier Monika Bickert, visepresident for innholdspolicy, i et blogginnlegg.

Kina vil bruke kunstig intelligens til å forstyrre valg i USA, Sør-Korea og India, advarer Microsoft.

Bickert sa at Meta også vil bruke separate og mer fremtredende merkelapper på digitalt endrede medier som utgjør en “spesielt høy risiko for å villede offentligheten i en viktig sak”, uavhengig av om innholdet er laget ved hjelp av AI eller andre verktøy. Meta vil begynne å bruke de mer fremtredende “høyrisiko”-etikettene umiddelbart, opplyser en talsperson.

Tilnærmingen vil endre selskapets behandling av manipulert innhold, fra å fokusere på å fjerne et begrenset antall innlegg til å holde innholdet oppe og samtidig gi seerne informasjon om hvordan det ble laget.

Meta har tidligere kunngjort en plan for å oppdage bilder som er laget ved hjelp av andre selskapers generative AI-verktøy ved hjelp av usynlige markører som er innebygd i filene, men oppga den gang ingen startdato.

En talsperson for selskapet sa at merkeordningen ville gjelde for innhold lagt ut på Facebook, Instagram og Threads. Selskapets øvrige tjenester, inkludert WhatsApp og Quest virtual reality-hodetelefoner, omfattes av andre regler.

Endringene kommer noen måneder før det amerikanske presidentvalget i november, som teknologiforskere advarer om kan bli påvirket av generativ AI-teknologi. Politiske kampanjer har allerede begynt å ta i bruk AI-verktøy i blant annet Indonesia, noe som tøyer grensene for retningslinjene fra leverandører som Meta og OpenAI, markedslederen innen generativ AI.

I februar kalte Metas tilsynsråd selskapets eksisterende regler for manipulerte medier for “usammenhengende” etter å ha gjennomgått en video av Joe Biden som ble lagt ut på Facebook i fjor, og som endret ekte opptak for å gi inntrykk av at den amerikanske presidenten hadde oppført seg upassende.

Videoen fikk lov til å bli liggende, ettersom Metas eksisterende retningslinjer for “manipulerte medier” bare forbyr villedende endrede videoer hvis de er produsert av kunstig intelligens eller hvis de får folk til å se ut til å si ord de aldri har sagt.

Styret sa at retningslinjene også bør gjelde for innhold som ikke er produsert av kunstig intelligens, som “ikke nødvendigvis er mindre villedende” enn innhold som er generert av kunstig intelligens, samt for innhold med kun lyd og videoer som viser personer som gjør ting de aldri har sagt eller gjort.