Alat je napravljen kako bi se spriječio jedan od najvećih problema kreatora sadržaja i umjetnika u vezi sa treniranjem AI-ja.
Treniranje vještačke inteligencije i dalje je u nekoj vrsti sive zone, pa su neki algoritmi trenirani na sadržaju koji je zaštićen autorskim pravima. Brojni umjetnici i muzičari pozivaju na hitnu regulativu kako bi se takvoj praksi stalo na kraj, jer ne žele da se njihova dela iskorišćavaju za treniranje AI u platformama poput "DALL-E", Stable Diffusiona i Midjourneyja. Protiv takvih kompanija koje razvijaju AI platforme za pretvaranje tekstualnih upita u slike već je podignuto više tužbi zbog korišćenja podataka zaštićenog autorskim pravima pa će biti zanimljivo vidjeti njihov ishod.
Profesor sa Univerziteta u Čikagu Ben Žao pronašao je potencijalno rješenje za ovaj problem. U saradnji s kolegama napravio je poseban alat nazvan "Nightshade" koji, kako su to komentarisali mediji, može "da otruje" podatke za treniranje AI.
"Nightshade" bi čak mogao i da uništi buduće modele pomenutih AI platformi za stvaranje slika na osnovu tekstualnog upita, objasnili su na "The Vergey". Naime ovaj alat menja digitalne slike, odnosno piksele u okviru njih tako da ta promjena nije vidljiva ljudskom oku, dok one izgledaju drugačije AI modelima – npr. neku običnu sliku oni mogu da prepoznaju kao kubističku apstrakciju tako da ne mogu da imitiraju originalnu sliku.
Zato bi AI model na određeni tekstualni upit mogao da da potpunu drugačiju sliku u odnosu na želje korisnika? U jednom slučaju, AI generativni modeli na koje je primijenjen ovaj alat prikazali su slike mačaka, iako je tekstualni upit bio vezan za psa. Umjeren broj takvih napada upotrebom "Nightshadea", smatra Žao, može da destabilizuje opšte funkcije u generativnom modelu pretvaranja tekstualnog upita u sliku, tako da AI platforme više ne bi mogle da stvaraju smislene slike zasnovane na željama korisnika.
Žao i ekipa koja je stvorila "Nightshade" kažu kako bi kreatori sadržaja trebali da koriste ovu "otrovnu pilulu" kao posljednju liniju odbrane protiv onih koji bez dozvole koriste njihov sadržaj za treniranje AI. Takođe, veruje da će i kompanije koje treniraju svoje modele na sadržaju zaštićenom autorskim pravima promeniti svoje navike i da takav sadržaj više neće iskorišćavati za svoje AI modele.
