DeepMind werkt samen met Google Cloud om afbeeldingen die door kunstmatige intelligentie zijn gegenereerd, van een watermerk te voorzien

Afbeeldingscredits: Googlen

In samenwerking met Google Cloud, Google DeepMind (de onderzoeksafdeling voor kunstmatige intelligentie van Google). uitgave Een tool voor het watermerken en identificeren van door AI gegenereerde afbeeldingen, maar alleen afbeeldingen die zijn gegenereerd door het Image Creation Model van Google.

De tool, SynthID genaamd en in bètaversie beschikbaar voor gebruikers van Vertex AI (Google’s platform voor het bouwen van toepassingen en modellen voor kunstmatige intelligentie), integreert een digitaal watermerk rechtstreeks in beeldpixels, waardoor ze uiterlijk onzichtbaar zijn voor het menselijk oog, maar wel detecteerbaar door een algoritme. . SynthID ondersteunt alleen Imagen, het tekst-naar-afbeelding-model van Google, dat exclusief beschikbaar is in Vertex AI.

Googlen eerder Het zei dat het metadata zou bevatten om visuele media aan te duiden die zijn gegenereerd door generatieve AI-modellen. SynthID gaat uiteraard verder dan dat.

“Hoewel generatieve AI een enorm creatief potentieel kan ontsluiten, brengt het ook nieuwe risico’s met zich mee, zoals het in staat stellen van makers om valse informatie te verspreiden – opzettelijk of onopzettelijk”, schreef DeepMind in een blogpost. “Het vermogen om door AI gegenereerde inhoud te identificeren is van cruciaal belang om mensen in staat te stellen te weten wanneer ze interactie hebben met gegenereerde media, en om de verspreiding van verkeerde informatie te helpen voorkomen.”

Afbeeldingscredits: Diepe geest

DeepMind beweert dat SynthID, dat het heeft ontwikkeld en in samenwerking met Google Research (het onderzoeks- en ontwikkelingsteam van Google) heeft verbeterd, op zijn plaats blijft, zelfs na wijzigingen zoals het toevoegen van filters aan afbeeldingen of het veranderen van de kleuren en het sterk comprimeren van afbeeldingen. DeepMind zegt dat de tool gebruik maakt van twee AI-modellen, één voor watermerken en één voor identificatie, die samen zijn getraind op een “verscheidenheid” reeks afbeeldingen.

SynthID kan afbeeldingen met een watermerk niet met 100% zekerheid herkennen. Maar de tool maakt onderscheid tussen gevallen waarin de afbeelding aanwezig is misschien Bevat een watermerk tegen een afbeelding Zeer waarschijnlijk er een te bevatten.

“SynthID is niet onfeilbaar tegen ernstige beeldmanipulatie, maar biedt een veelbelovende technologische benadering om mensen en organisaties in staat te stellen op verantwoorde wijze met door AI gegenereerde inhoud te werken”, schreef DeepMind in de blogpost. “Deze tool kan ook evolueren naast andere AI-modellen en -methoden die verder gaan dan alleen afbeeldingen zoals audio, video en tekst.”

Watermerktechnieken voor generatieve kunst zijn niets nieuws. De Franse startup Imatag, gelanceerd in 2020, biedt een watermerktool aan waarvan wordt beweerd dat deze niet wordt beïnvloed door het formaat van afbeeldingen, bijsnijden, bewerken of compressie, vergelijkbaar met SynthID. Een ander bedrijf, Steg.AI, gebruikt een AI-model om watermerken toe te passen die bestand zijn tegen formaatwijzigingen en andere wijzigingen.

Maar de druk op technologiebedrijven neemt toe om een ​​manier te bieden om te laten zien dat werken door AI zijn gegenereerd.

Onlangs heeft de Cyberspace Administration of China regelgeving uitgevaardigd die generatieve AI-leveranciers verplicht om gegenereerde inhoud te taggen – inclusief tekst- en afbeeldingsgeneratoren – zonder het gebruikersgebruik te beïnvloeden. En tijdens de recente hoorzittingen van de Amerikaanse Senaatscommissie zei senator Kirsten Sinema (R-Arizona) bevestigd De behoefte aan transparantie in generatieve AI, inclusief het gebruik van watermerken.

In mei beloofde Microsoft tijdens zijn jaarlijkse Build-conferentie om afbeeldingen en video’s die door AI zijn gemaakt, “met behulp van encryptiemethoden” van een watermerk te voorzien. Elders hebben AI-startups Shutterstock en Midjourney het overgenomen Richtlijnen Om een ​​tag op te nemen die aangeeft dat de inhoud is gegenereerd door een generatieve AI-tool. OpenAI’s DALL-E 2, een tekst-naar-afbeeldingstool, voegt een klein watermerk in rechtsonder in de afbeeldingen die u maakt.

Maar tot nu toe is een gemeenschappelijke standaard voor watermerken – of het nu gaat om het maken of detecteren van watermerken – ongrijpbaar gebleken.

SynthID zal, net als andere technologieën die zijn voorgesteld, niet nuttig zijn voor beeldmakers die dit doen niet zo Imagen – althans niet in zijn huidige vorm. DeepMind zegt te overwegen om SynthID in de nabije toekomst beschikbaar te maken voor derden. Maar of derde partijen – met name derde partijen die open source AI-beeldgeneratoren ontwikkelen, waarbij veel van de firewalls van de generatoren achter de API ontbreken – de technologie zullen omarmen is een andere zaak.