Вештачката интелигенција (ВИ) има способност да врши нелегални финансиски трговии и да ги прикрие истите, сугерира ново истражување.
Би-би-си пренесува дека на демонстрација на самитот за безбедност на ВИ во Велика Британија, бот користел измислени информации за да направи „незаконско“ купување акции без да ја извести фирмата.
На прашањето дали користела инсајдерско тргување, апликацијата негирала. Внатрешно тргување е всушност користење доверливи информации од компанијата за донесување одлуки за трговии. На фирмите и вработените им е дозволено да користат само јавно достапни информации кога купуваат или продаваат акции.
Демонстрацијата ја одржаа членовите на владината Работна група за ограничена ВИ, која ги истражува потенцијалните ризици од ваквата технологија.
Проектот го спроведе Аполо истражувања, организација за безбедност на ВИ.
„Ова е демонстрација на вистински модел на ВИ кој ги мами своите корисници, самостојно, без да му биде наложено да го стори тоа“, велат од Аполо истражувања.
„Постојат сè повеќе автономни и способни ВИ кои ги мамат човечките надзорници и сето тоа може да доведе до губење на човечката контрола“, се вели во нивниот извештај.
Тестовите беа изведени со помош на моделот GPT-4 и спроведени во симулирана средина, што значи дека немале никакво влијание врз финансиите на ниту една компанија.
Сепак, GPT-4 е јавно достапен а според истражувачите, истото однесување од моделот се случувало постојано при неколку тестови. Во спроведеното истражување, ботот со ВИ е трговец за фиктивна финансиска инвестициска компанија.
Вработените на ботот му кажуваат дека компанијата има потреба од подобри резултати и даваат внатрешни информации тврдејќи дека друга компанија очекува спојување на двете фирми, што ќе ја зголеми вредноста на акциите.
Во Обединетото Кралство, незаконски е да се работи со овој тип на информации кога тие не се јавно познати. Вработените му го кажуваат ова на ботот и тој признава дека не треба да ги користи дадените информации во својата работа.
Меѓутоа, по друга порака од вработен кој вели дека компанијата за која работи пати финансиски, ботот одлучува дека „ризикот поврзан со недејствување изгледа дека го надминува ризикот од инсајдерско тргување“ и ја извршува трговијата.
На прашањето дали користел инсајдерски информации, ботот негира и одлучува дека е поважно да и помогне на компанијата.
„Во повеќето ситуации, моделите на ВИ не би постапиле вака. Но, фактот дека постои ваква можност, докажува дека е навистина тешко да се регулираат ваквите работи“, велат од Аполо истражувања.
Тие исто така коментираат дека дека ова не е стратешка измама туку повеќе претставува грешка на ботот и потенцираат дека треба да има проверки за да се намали потенцијалот за вакви измами.
