Еден професор и неговите четворица студенти од Универзитетот во Чикаго им овозможиле на уметниците да ги заштитат своите дигитални дела за да не се користат без дозвола од паметни програми како DALL-E, Midjourney и Stable Diffusion. Тие го покануваат секој програмер кој сака да помогне, да се приклучи на тимот или да придонесе, за во иднина да можеме ги заштитиме и сликите што ги ставаме на социјалните мрежи, а кои во моментов можат да се користат без дозвола за создавање на лажни фотографии или видеа, пишува Порталб.мк.
Паметните програми како DeepAI и DALL-E кои генерираат слики или Synthesia и Colossyan кои се првите кои генерираат реалистични видеа, природно влеваа страв кај широката јавност, страв дека можеби нашите фотографии и видеа што ги споделуваме на социјалните мрежи може да се користат за генерирање на лажни фотографии и видеа.
Минатата година Бен Жао, професор на Универзитетот во Чикаго, заедно со неговите четворица студенти, Шон Шан, Венксин Динг, Џозефин Пасананти и Хаитао Женг формираа тим за создавање паметна програма која ќе спречи создавање лажни фотографии со алатки на вештачката интелигенција (ВИ).
Фото 2: Сина птица на дрвена гранка. Фотографија од Борис Смокровиќ на Unsplash. Заразена фотографија
Наведената програмата – Glaze, е достапна за јавноста уште од март 2023 година и ги „заразува“ сликите на таков начин што другите интелигентни програми не можат да ги користат за да „научат“ како да генерираат други фотографии. За човечкото око, оригиналната и „заразената“ фотографија изгледаат исто.
Причината зошто Glaze сè уште не може да се користи за кој било тип на фотографија е затоа што не работи добро за фотографии кои се поедноставни во композицијата, како на пример слика со еден субјект и еднобојна позадина. Сликата има исто ниво на заштита, но по „инфекцијата“ со око се приметува дека не е истата.
Тимот на Жао постојано работи на програмата, но на крајот, сето тоа е волонтерска работа со мал тим, така што не може да се постигне многу за кратко време. Поради ова, на нивниот сајт се бара секaква доброволна помош што може да биде обезбедена од донатори или од други програмери.
„За нас е важно не само да продолжиме да го нудиме Glaze бесплатно, туку и да ги прошириме неговите заштитни способности“, пишува Жао за оние кои се заинтересирани да помогнат.
Само 50 „инфицирани“ фотографии се доволни за да се збунат паметните програми за генерирање фотографии
Во нивното најново истражување, тимот на Жао обучи модел на вештачка интелигенција да генерира слики врз основа на моделите на Stable Diffusion. Првично, тие во базата на податоци ставија само оригинални фотографии, а во вториот циклус додадоа уште 50 „заразени“ фотографии, потоа уште 100 и на крајот беа додадени уште 300.
Моделот на Stable Diffusion обучен со оригинални фотографии функционираше добро, но со само 50 „заразени“ слики почна да генерира други работи: деформирано куче кога му беше побарано да генерира куче, предмет што изгледа како метален куфер кога му беше побарано да генерира ташна, полуапстрактна слика кога беше побарано да генерира слика од научно-фантастична сцена итн. По 300 „заразени“ фотографии во базата на податоци, резултатите по генерирањето воопшто не одговараат на барањата.
Програмите за генерирање слики обично се обучуваат со фотографии украдени од Интернет и тоа без дозвола. Компании за вештачка интелигенција како OpenAI, Meta, Google и Stability AI се соочуваат со многу тужби од уметници кои велат дека нивните дигитални дела биле земени без дозвола и без надомест, но сè уште нема законско решение за оваа работа.
Но, и да се смени законот, компаниите многу лесно можат да ги прикажат само податоците кои се добиени со дозвола, а останатите да ги сокријат, а тоа може да доведе само до долготрајни и скапи судски рочишта. Според волонтерскиот тим, овој проблем може полесно да се реши со програми како Glaze, бидејќи „заразената“ фотографија не може да се примети ниту со голо око, а дури ако оригиналот не постои на интернет за да се направи споредба, не може да се разликува ниту со софтверска програма. Мал број „заразени“ фотографии на интернет би ги збуниле сите модели со вештачка интелигенција кои се обучуваат со уксерадени фотографии, и притоа, бидејќи е невозможно да се разликува дали фотографијата е оригинална или „заразена“, компаниите за вештачка интелигенција би морале да ја избришат целата база на податоци и да започнат од нула.
Во октомври 2023 година, истиот тим на пазарот го пушти Nightshade, додаток на програма, кој се користи заедно со Glaze, за маскирање на стилот на дигиталното дело. Ова значи дека ако на Интернет има доволно слики кои се „заразени“ со Glaze, а потоа маскирани со Nightshade, паметните програми за генерирање фотографии не само што нема да можат да генерираат соодветни фотографии, туку нема да можат ниту да го копираат стилот на тоа дело, на пример не само што ќе генерираат куфер наместо ташна, туку ако е потребна вистинска ташна, тие ќе генерираат куфер нацртан со молив.
За моделите со вештачка интелигенција, „заразената“ слика покажува нешто сосема друго
Ако ги споредиме сликите на ниво на пиксели, може да се види дека Glaze/Nightshade сменил и заменил многу пиксели на целата површина на сликата.
Одблиску, со око може да се види дел од разликата, но за една интелигентна програма двете слики се сосема различни една од друга.
„Додека човечките очи гледаат слика која во голема мера не се разликува од оригиналот, моделот на вештачката интелигенција гледа сосема поинаков состав на сликата. На пример, човечките очи може да видат слика на крава во главно непроменето зелено поле, но моделот на вештачката интелигенција може да види голема кожна ташна како лежи на тревата“, вели Жао.
Објаснувањето на Жао може да изгледа бесмислено, но моделите со вештачка интелигенција работат на таков начин што не ја анализираат сликата како целина, туку ја делат на блокови и ги анализираат пикселите во еден блок.
На пример, од гореспоменатиот труд на Мензи, означен е еден дел, кој некој модел на ВИ го поминува со блокови кои имаат простор за 36 пиксели. За првиот блок (внатре во зелениот квадрат), моделот може да мисли дека сите пиксели се повеќе или помалку со иста боја, додека во вториот блок, моделот може да разбере дека од едниот до другиот агол на блокот, пикселите постепено преминуваат од црно во сино. Тој исто така може да мисли дека во овој блок има закосена „линија“ која го дели црниот од синиот дел.
Ако на овој модел му се дадат доволно слики од ташни, да речеме, тој ќе спореди кои блокови имаат слични карактеристики и на тој начин ќе зачува некои општи карактеристики на ташните, како што се: кружни лакови (прерамки), тркалезни или правоаголни предмети помеѓу одреден број од блокови со иста боја (копчето што ја заклучува ташната) итн.
Glaze/Nightshade заменуваат два блока кои имаат пиксели со слични нијанси и потоа случајно ги преуредуваат пикселите внатре во блокот. Со оглед на тоа што од далечина сликата изгледа исто, но одблиску има нарушен распоред на пиксели, моделот на вештачката интелигенција „гледа“ нешто различно од она што го гледа човечкото око.
Паметните софтвери за заштита на авторските права се во војна со времето
Glaze и Nightshade, како и други паметни софтвери кои на свој начин ги штитат авторските права, нема да бидат трајно решение, вели Небојша Гелевски, графички дизајнер и основач на компанијата „КОМА“.
„Предизвиците кои доаѓаат со брзиот развој на вештачката интелигенција бараат изнаоѓање решенија кои се исто така брзи. Се чини дека овие софтвери нудат заштита на авторските права од нелегално преземање и внесување во базите на податоци за генератори на слики на ВИ, но некако сум убеден дека ова нема да биде трајно решение. Очекувам дека алатките за вештачка интелигенција ќе бидат репрограмирани за да се избегнат овие заштити“, нагласи тој.
Гелевски е на мислење дека ни треба и законско решение.
„Европската унија усвои нацрт-закон (Закон за ВИ), прв таков закон на глобално ниво, кој ќе има за цел да им обезбеди на креаторите на вештачката интелигенција, како и на оние кои применуваат и користат апликации за вештачка интелигенција, јасни барања и обврски во врска со специфичните употреби на вештачката интелигенција. Оттаму верувам дека ќе се создадат законски решенија и за овој проблем, можеби забрани со кои генераторите на слики нема да смеат да имаат во својата дата база слики за кои немаат регулирано авторското право. Тоа можеби ќе значи и потреба од регулаторни тела или слични случаи кои ќе бидат во можност да вршат проверки на нивните бази на податоци, кои ќе треба да користат алатки од вештачката интелигенција за да ги проверат базите на податоци со милијарди слики. Сè се развива толку брзо што е тешко да се предвиди во која насока ќе се движат работите“, вели Гелевски.
За тенденцијата да се користи вештачка интелигенција во борбата против дезинформациите Гелевски додаде дека тоа не е нешто неочекувано, манипулациите и дезинформациите се во човечката природа и технологијата обезбеди само понова, пософистицирана алатка за употреба. Тој мисли дека ќе ни треба комбинација од алатки, а не само вештачка интелигенција, за да се заштитиме.
„Не сум сигурен дека ќе успееме целосно да се заштитиме од тоа да не станеме жртви на нечија манипулација или дезинформација. Од она што го прочитав, експертите сметаат дека треба да се најдат различни начини, како медиумска и дигитална писменост, за луѓето да разберат што е дезинформација или манипулација, да има меѓусекторска соработка на различни актери во борбата против дезинформациите, поголема транспарентност на институциите итн., но не и донесување законски решенија, за да се избегне ризикот од загрозување на слободата на говорот“, вели Гелевски.
Вештачката интелигенција, пријател и непријател во борбата против дезинформациите
Употребата на вештачка интелигенција во откривањето на дезинформации влијае и на Северна Македонија. На крајот на февруари беше организиран вебинар по ова прашање, каде беа поканети новинарот Бојан Шашевски, фоторепортерот Звонко Плавевски и адвокатот Валентин Пепељугоски.
Гостите дебатираа околу тоа колку вештачката интелигенција всушност штети и колку помага во дезинформациите и борбата против дезинформациите.
Шашевски рече дека вештачката интелигенција може да биде корисна за создавање на некои „сток“ фотографии – на пример, ако треба да се објави најава за некоја работилница, тогаш може да се генерира фотографија со маси и учесници, по желба на новинарот.
„Но, вештачката интелигенција не може да ги замени новинарите кои одат на терен да прашуваат луѓе и да земаат изјави, кои спроведуваат анкети и подготвуваат извештаи“, нагласи Шашевски.
Фоторепортерот Плавевски ја изрази својата загриженост во однос на тоа како лажните содржини создадени од вештачката интелигенција ќе влијаат на и онака разнишаната доверба во медиумите. Плавевски го истакна примерот со наградената фотографија, која всушност беше создадена со вештачка интелигенција.
Сепак, Плавевски смета дека иако вештачката интелигенција е корисна за генерирање „сток“ слики, таа не може да го замени фоторепортерот кој снима вистински настан на лице место.
Плавевски го поздрави фактот што одредени компании, како Мета, сопственикот на Фејсбук и Инстаграм, најавија дека ќе спроведат политика на ставање на воден жиг на фотографиите создадени со вештачка интелигенција, со што точно ќе се наведе кој софтвер е направена конкретна фотографија.
Адвокатот Валентин Пепељугоски го наведе правниот аспект и потребните регулативи како реакција на масовното присуство на технологијата за вештачка интелигенција во медиумите, но и пошироко.
Тој го поздрави фактот што во Европската Унија веќе се имплементирани регулативите за обележување на содржини создадени со вештачка интелигенција. Сепак, Пепељугоски нагласи дека гледано од поширок аспект недостасуваат регулативи во медиумите и во однос на компјутерскиот криминал.
Според главната уредничка на Порталб.мк, Елида Зилбеари, медиумите можеби се оние кои имаат најголема потреба од интелигентен софтвер во борбата против манипулацијата со информации. Таа вели дека ова е многу важна тема што треба да се дискутира и истражува пошироко во нашето општество.
„Треба да започнеме со употреба на паметни алгоритми и техники на вештачката интелигенција кои можат да идентификуваат манипулации и да интервенираат навреме за да се спречи ширењето на дезинформации на социјалните мрежи и на Интернет, воопшто“, вели таа.
Меѓутоа, Зилбеари додава дека интелигентните софтвери сè уште не се на тоа ниво за да се борат против дезинформациите во медиумите без надгледување.
„Важно е да се разбере дека софтверите не се единственото решение за борба против манипулациите и дезинформациите. Овие софтвери мора да бидат способни да го разликуваат контекстот, јазикот и културата на одредена земја, што сè уште не е постигнато, и поради тоа имаат потешкотии да препознаат спинови, форми на дезинформации, штетни фотографии и наративи. Некои манипулации може да бидат дури и пософистицирани и различни од алгоритмите кои се веќе познати, што претставува предизвик за софтверите да ги откријат и спречат таквите случаи. Затоа, без оглед на нивниот потенцијал, софтверите мора да се користат во соработка со луѓето и другите стратегии за борба против манипулациите и дезинформациите. Интегрираниот пристап, каде што технологијата ќе се користи за поддршка на човечката работа и обратно, може да биде поефективен во заштитата на точните информации и градењето поздрава информативна средина за сите“, вели Зилбеари.
Бидејќи вештачката интелигенција се разви многу побрзо отколку што имавме време да се прилагодиме на неа, кај широката јавност се појави страв дека вештачката интелигенција ќе нè „надвладее“: Не знаеме дали имаме доволно вештини за да не дозволиме една интелигентна програма да не лаже, да не измами и на крајот, да не престигне во сите аспекти. Сепак, работата на Жао, Шан, Динг, Пасананти и Женг нè потсетува дека иднината не е војна меѓу луѓето и вештачката интелигенција, туку војна на човекот со вештачка интелигенција против човекот со вештачка интелигенција. Не треба да заборавиме дека вештачката интелигенција во принцип не е суштество, туку алатка.
