Pravni okvir ustanovljen Uredbom predviđen je za primjenu na javne i privatne subjekte u Europskoj uniji, ali i izvan nje ako se AI stavlja na tržište EU-a ili ako njegovo korištenje utječe na osobe u EU.
Uredba EU-a o umjetnoj inteligenciji prvi je sveobuhvatni propis o umjetnoj inteligenciji na svijetu. Svrha regulacije je smanjiti rizik za zdravlje, sigurnost i temeljna prava kao i zaštititi demokratske stečevine, vladavinu prava i okoliš.
Novi regulatorni sustav će unaprijediti uvođenje umjetne inteligencije. S jedne strane, rast povjerenja korisnika može povećati potražnju poduzeća i javnih tijela za umjetnom inteligencijom. S druge strane, radi poboljšane pravne sigurnosti i unificiranih pravila, dobavljači umjetne inteligencije dobit će pristup globalnom tržištu, s proizvodima u koje kupci vjeruju i osjećaju se sigurno u korištenju.
Uredba EU-a o umjetnoj inteligenciji prvi je sveobuhvatni propis o umjetnoj inteligenciji na svijetu
Europska komisija (EK) navodi kako je cilj Uredbe pružiti programerima i subjektima za uvođenje umjetne inteligencije jasne zahtjeve i obveze te smanjiti administrativno i financijsko opterećenje za poduzeća, posebno mala i srednja. EK ističe da AI vodi i povjerenju u ono što umjetna inteligencija nudi jer se njome uvode obveze transparentnosti s ciljem da građani budu adekvatno informirani a time i zaštićeni.
PRIMJENA UREDBE O AI
Pravni okvir ustanovljen Uredbom predviđen je za primjenu na javne i privatne subjekte u Europskoj uniji, ali i izvan nje ako se AI stavlja na tržište EU-a ili ako njegovo korištenje utječe na osobe u EU. Novim pravilima utvrđuju se obveze za dobavljače odnosno proizvođače softvera i na korisnike, ovisno o razini rizika koji umjetna inteligencija predstavlja. Razinu rizika koju pojedini sustavi umjetne inteligencije predstavljaju potrebno je procijeniti.
Prema Uredbi postoje četiri razine rizika od nepravilnog korištenja umjetne inteligencije.
1. Neprihvatljiv rizik – sustavi koji su jasna prijetnja sigurnosti, životima i pravima i oni su zbog toga zabranjeni.
Tako je, na primjer, zabranjeno iskorištavanje ranjivosti osoba, manipulacija i korištenje subliminalnih tehnika, individualni prognostički rad policije koji se temelji isključivo na profiliranju ljudi, neciljano prikupljanje slika lica s interneta ili CCTV-a za izgradnju ili širenje baza podataka, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama, osim iz medicinskih ili sigurnosnih razloga (kao praćenje razine umora pilota), biometrijska kategorizacija pojedinaca kako bi se otkrila njihova rasa, politička mišljenja, članstvo u sindikatu, vjerska i filozofska uvjerenja ili spolna orijentacija (osim kod kaznenog progona), kao i daljinska biometrijska identifikacija u stvarnom vremenu na javnim mjestima koju provode tijela za kazneni progon (uz neke iznimke).
Jedan od slikovitih primjera neprihvatljivog rizika su igračke s glasovnim funkcijama koje potiču opasno ponašanje.
2. Visok rizik – sustavi koji moraju ispuniti stroge obveze kako bi mogli biti korišteni.
Takvi visokorizični sustavi uključuju, na primjer, AI sustave koji procjenjuju može li netko dobiti liječenje, posao ili zajam za kupnju stana. Visokorizični sustavi mogu biti i sustavi koji upravljaju robotima, bespilotnim letjelicama ili medicinskim uređajima. Takvi su primjeri primjene AI kod polaganja ispita u školama i fakultetima, korištenja robota u kirurgiji, automatiziranog rješavanja zahtjeva za vizu, određivanje kreditnih bodova u banci, filtriranje životopisa kod zapošljavanja i drugi.
3. Ograničeni rizik – sustav kod kojih nedostaje transparentnosti u korištenju umjetne inteligencije, a kod kojih su uvedene posebne obveze upravo u tom smjeru. Takvi primjeri su rizik od manipulacije npr. korištenje chatbotova ili uvjerljivih krivotvorenih sadržaja – “deep fake”.
Tako će, primjerice, posjetitelji web stranice trebati biti informirani da razgovaraju s robotom a ne čovjekom iz službe za korisnike, a tekst koji je stvorila umjetna inteligencija, a za informiranje građana od javnog interesa, morat će biti označen kao sadržaj stvoren umjetnom inteligencijom.
4. Minimalan ili nepostojeći rizik – dozvoljena je uporaba sustava s minimalnim rizikom bez dodatnih pravnih obveza. Takav su primjer filteri za neželjenu poštu.
PRIMJENA UREDBE
Uredba o umjetnoj inteligenciji primjenjivat će se dvije godine nakon što je 2. kolovoza ove godine stupila na snagu, dakle 2. kolovoza 2026. godine, osim sljedećih posebnih odredaba:
- zabrane, definicije i odredbe povezane s pismenošću u području umjetne inteligencije počet će s primjenom 2. veljače 2025. godine,
- pravila o upravljanju i obvezama za umjetnu inteligenciju opće namjene počinju se primjenjivati 2. kolovoza 2025. godine,
- obveze visokorizičnih sustava primjenjivat će se od 2. kolovoza 2027. godine.
PRIMJERI RIZIKA IZ SVIJETA
Što se sve može dogoditi uz neodgovarajuću primjenu umjetne inteligencije pokazuju brojni primjeri iz cijelog svijeta, a ne samo iz EU-a.
U Amazonu su na primjer prestali koristiti algoritam kod zapošljavanja nakon što su otkrili da daje prednost kandidatima koji su u životopisima imali riječ “izvršavati” ili “zauzeti”, što su riječi koji su većinom koristili muški kandidati za zapošljavanje.
AI pomaže poboljšati produktivnost, smanjuje radna opterećenja i revolucionira različite poslovne operacije
Isto tako, podaci iz SAD-a i Velike Britanije, pokazali su da su sustavi umjetne inteligencije podcijenili rizik od teških bolesti kod mlađih pacijenata, a precijenili rizik kod starijih pacijenata zbog čega je došlo do toga da neki mlađi pacijenti nisu dobili adekvatno liječenje, dok su neki stariji pacijenti bespotrebno obavljali dodatne zahvate i koristili terapije koje im nisu bile potrebne.
MOGUĆNOSTI I PRIMJENA AI U TRGOVINI
AI ili umjetna inteligencija osvaja poslovni svijet. Pomaže poboljšati produktivnost, smanjuje radna opterećenja i revolucionira različite poslovne operacije.
Zahvaljujući pristupačnosti AI-a, posebno je koristan malim i srednjim poduzećima koja nemaju pristup velikim proračunima ili radnoj snazi. AI im može pomoći u analizi tržišnih trendova, poboljšanju procesa pružanja usluga korisnicima proizvoda i usluga, kao podrška marketinškim kampanjama i dr.
Web stranice
Na web stranicama i trgovini AI se često koristi za poboljšanje kupovnog iskustva kupaca. Može automatizirati određene procese, nudeći personalizirane preporuke na temelju korisnikove povijesti pregledavanja i kupnje.
AI također može analizirati podatke prikupljene iz ponašanja kupaca, kao što su proizvodi za koje su najviše zainteresirani, koliko vremena provode na određenim stranicama web mjesta. Te se informacije zatim mogu koristiti za optimizaciju izgleda web stranice, plasman proizvoda, za marketinške kampanje.
Korištenje AI alata može poboljšati opis proizvoda i fotografije kako bi se kupci potaknuli na kupnju.
Automatizacija
Na primjer, AI sustavi za upravljanje zalihama mogu predvidjeti kada će proizvodi nestati iz zaliha i automatski slati narudžbe za obnavljanje zaliha.
Zaštita od prijevara
AI može pomoći u otkrivanju i sprječavanju prijevara. Analizirajući obrasce u transakcijskim podacima, algoritmi umjetne inteligencije mogu prepoznati sumnjive aktivnosti i upozoriti vlasnike tvrtki na potencijalne pokušaje prijevare. To pomaže u zaštiti poduzeća i njegovih klijenata od financijskih gubitaka.
Marketing
Primjeri kako AI alati mogu pomoći u marketinškim zadacima:
- dinamičko ciljanje oglasa, tj. prikazivanje različitih oglasa različitim segmentima kupaca,
- personaliziranje e-mail kampanja na temelju ponašanja i interesa kupaca,
- stvaranje slika i videa za marketinške kampanje.
Služba za korisnike
Web chatbotovi jedni su od najpopularnijih načina na koje se umjetna inteligencija koristi za korisničku službu na web stranicama za e-trgovinu. Pružaju trenutnu pomoć kupcima s često postavljanim pitanjima ili im pomažu u kretanju kroz izbornik proizvoda i usluga.
Kod kupaca u različitim vremenskim zonama, AI chatbotovi mogu odgovoriti na pitanja 24/7 te će poboljšati komunikaciju s klijentima i izgraditi solidnu reputaciju robne marke.
Personalizirano iskustvo kupnje
Ovi alati mogu dati preporuke za proizvode na temelju podataka o kupcima i ponašanja pri kupnji.
AI alati mogu preporučiti relevantne proizvode kupcima, povećavajući vrijednost narudžbe i zadovoljstvo kupaca.
Dinamičke strategije određivanja cijena
Mnoge male kompanije koriste alate umjetne inteligencije kako bi iskoristile dinamičke strategije određivanja cijena koje uzimaju u obzir potražnju proizvoda, konkurente i ponašanje kupaca.
Glasovna trgovina
Glasovna trgovina omogućuje potrošačima kupnju proizvoda s pomoću određenih glasovnih naredbi. Ova je tehnologija idealna za maloprodaju, ali primjena se očekuje u svim vrstama industrije i usluga.
Uz glasovnu trgovinu dolazi i glasovno pretraživanje, gdje kupci mogu zatražiti od pametnog uređaja da usporedi dva proizvoda. Pametni pomoćnici koji se pokreću glasovnom trgovinom omogućuju potrošačima da dodaju artikl u svoju košaricu jednostavnim govorom svom uređaju i korištenjem određenog jezika. Doista nema ograničenja u tome kako umjetna inteligencija može transformirati trgovinu osobito e-trgovinu, naravno uz ograničenje regulatornih okvira.
