Met een nieuwe tool kunnen kunstenaars hun kunstwerken ‘vergiftigen’ om AI-bedrijven af ​​te schrikken

Kunstenaars die hun kunstwerken willen delen, worden vaak geconfronteerd met een moeilijke keuze: het offline houden of het op sociale media plaatsen en het risico lopen dat het wordt gebruikt om data-hongerige AI-beeldgeneratoren te trainen.

Maar binnenkort kan een nieuwe tool kunstenaars helpen AI-bedrijven ervan te weerhouden hun kunstwerken zonder toestemming te gebruiken.

Het heet “Nightshade” en is ontwikkeld door een team onderzoekers van de Universiteit van Chicago. Het werkt door de creativiteit van de kunstenaar te ‘vergiftigen’ door op subtiele wijze de pixels in de afbeelding te veranderen, zodat AI-modellen niet nauwkeurig kunnen bepalen wat de afbeelding weergeeft, aldus The Verge. MIT-technologierecensie.

Hoewel het menselijk oog deze kleine veranderingen niet kan waarnemen, zijn ze bedoeld om ervoor te zorgen dat het machine learning-model het beeld ten onrechte bestempelt als iets anders dan het is. Omdat deze AI-modellen afhankelijk zijn van nauwkeurige gegevens, zal dit ‘vergiftigingsproces’ het beeld onbruikbaar maken voor trainingsdoeleinden.

Als er voldoende van deze ‘vergiftigde’ afbeeldingen van het internet worden gehaald en worden gebruikt om een ​​AI-beeldgenerator te trainen, kan het AI-model zelf mogelijk geen nauwkeurige beelden produceren.

De onderzoekers voedden bijvoorbeeld Stable Diffusion, een AI-beeldgenerator, aan een AI-model dat 50 ‘giftige’ afbeeldingen van honden genereerde, en vroegen het vervolgens om nieuwe afbeeldingen van honden te genereren. De gemaakte afbeeldingen toonden dieren met te veel ledematen of cartoonachtige gezichten die enigszins op honden leken, aldus MIT Technology Review.

Nadat onderzoekers Stable Diffusion 300 ‘giftige’ afbeeldingen van honden hadden gevoed, begon het uiteindelijk afbeeldingen van katten te produceren. Stable Diffusion reageerde niet op het verzoek van CNBC Make It om commentaar.

Op het eerste gezicht lijken AI-kunstgeneratoren uit het niets afbeeldingen te creëren op basis van elke aanwijzing die iemand hen geeft.

Maar het is geen magie om deze generatieve AI-modellen te helpen realistische beelden te creëren van een roze giraffe of een onderwaterkasteel, het zijn trainingsgegevens en heel veel.

AI-bedrijven trainen hun modellen op enorme datasets, waardoor de modellen kunnen identificeren welke afbeeldingen met woorden worden geassocieerd. Om ervoor te zorgen dat een AI-model correct een afbeelding van een roze giraffe kan produceren, moet het worden getraind om afbeeldingen van giraffen en de kleur roze correct te herkennen.

Veel van de gegevens die worden gebruikt om veel generatieve AI-systemen te trainen, worden van internet gehaald. Hoewel het in de Verenigde Staten legaal is voor bedrijven om gegevens te verzamelen van openbaar toegankelijke websites en deze voor verschillende doeleinden te gebruiken, wordt het ingewikkeld als het om kunstwerken gaat, aangezien kunstenaars meestal het auteursrecht op hun kunstwerken bezitten en in sommige gevallen willen ze dat niet. hun kunstwerken worden gepubliceerd. Wordt gebruikt om een ​​model voor kunstmatige intelligentie te trainen.

Hoewel artiesten zich kunnen aanmelden voor ‘opt-outlijsten’ of ‘no-scrape-richtlijnen’, is het vaak moeilijk om bedrijven te dwingen zich aan deze richtlijnen te houden. Glazuur bij UChicagozei het team van onderzoekers die Nightshade hebben gemaakt in een thread van 24 oktober op X, voorheen bekend als Twitter.

“Geen van deze mechanismen is afdwingbaar of zelfs maar verifieerbaar”, zeiden ze in een draad van 24 oktober. “Bedrijven hebben laten zien dat ze opt-outs blindelings kunnen negeren.” “Maar zelfs als ze het eens waren en anders handelden, kan niemand dat verifiëren of bewijzen (tenminste niet vandaag). Deze instrumenten zijn tandeloos”, voegde hij eraan toe.

Uiteindelijk hopen onderzoekers dat Nightshade kunstenaars zal helpen hun kunst te beschermen.

De onderzoekers hebben hun Nightshade-tool nog niet vrijgegeven aan het publiek, maar ze hebben hun werk ingediend voor peer review en hopen het binnenkort beschikbaar te maken, vertelde UChicago’s Glaze aan X.

Mis het niet: Wilt u slimmer en succesvoller zijn in uw geld, uw werk en uw leven? Schrijf u in op onze nieuwe nieuwsbrief!

Krijgt Warren Buffett’s gratis gids voor beleggen op CNBCdat het beste advies van de miljardair voor gewone beleggers, de do’s en don’ts, en drie belangrijke beleggingsprincipes samenvat in een duidelijke, eenvoudige gids.

afbetalen: Kunstmatige intelligentie is het nieuwste modewoord in de technologie, maar leer deze vier termen kennen voordat u investeert