Umetna inteligenca - Zmore veliko, a kaj lahko stori, če se jo zlorabi proti nam?

Umetna inteligenca (UI) predstavlja pomembno tehnološko orodje, ki je bistveno prispevalo k številnim dosežkom v različnih sektorjih, vključno z zdravstvom, izobraževanjem, transportom in mnogimi drugimi. Kljub temu obstajajo neprimerne ali neetične uporabe te tehnologije. Nekatere od njih vključujejo:

Invazivni nadzor

UI se lahko uporablja za sledenje ljudem, vohunjenje in invazivno nadzorovanje. To lahko vodi do kršitve zasebnosti in je lahko zelo nevarno, če ga zlorabljajo avtoritativni režimi ali zlonamerna podjetja. Umetna inteligenca zna zajemati besedilo, zvok, fotografije, video (kamere), podatke v analogni (z digitalizacijo) in digitalni obliki ter svoje odločitve temelji na predhodno pridobljenih podatkih, strojnem učenju in globokem učenju. Predstavljajte si, kako bi Hitler uporabi UI, če bi tedaj obstajala. Ali pa raje ne. Dovolj je en diktator, ki si podredi državo in podatki ter UI. Kdo bo skrbel nad to potencialno zlorabo? Varnostni svet Združenih narodov? Katera država je danes največja družba nadzora? Mnogi menijo da Kitajska. Verjetno pa so le korak za njimi ZDA.

Razširjanje dezinformacij

UI se lahko uporablja za ustvarjanje in razširjanje dezinformacij, lažnih novic in propagande na spletu, kar lahko destabilizira družbe in škoduje demokraciji. To je igrišče politike, ki želi širiti svoj vpliv, lahko nacionalno ali mednarodno, odvisno od ambicij. Izvedba je v rokah obveščevalne skupnosti ali pogodbenih izvajalcev, da se zmanjša sledljivost odgovornosti. Vplivi na volitve, javno mnenje, spodbujanje nemirov, stavk, nasilja, tudi spremembe sentimenta ljudi kot predpogoja, da v naslednjem koraku nekaj storijo.

Napadi s kibernetsko varnostjo

UI se lahko uporablja za izvajanje sofisticiranih kibernetskih napadov, vključno s krajo osebnih podatkov, vdiranjem v sisteme in izvajanjem napadov DDoS. Hekeri so pametni, UI pa zmore obdelovati morje informacij. Vse to združeno lahko eksponentno poveča obseg in tudi resnost kiberentskih napadov. K sreči tudi zaščita pred njimi uporablja umetno inteligenco. Gre za stalno bitko dobrega in slabega.

Rasna in spolna pristranskost

UI lahko v algoritmih za strojno učenje pokaže rasno, spolno ali drugo pristranskost, kar lahko vodi do nepravičnih izidov v številnih področjih, vključno s pravosodjem, zaposlovanjem in zdravstveno oskrbo.

Sodobno vojskovanje in avtonomno orožje

UI se lahko uporablja v avtonomnih orožjih, kot so brezpilotni letalniki, ki lahko izvajajo napade brez človeškega nadzora. To predstavlja velike etične in pravne izzive. Ljudje so dragoceni, večina zahodnih družb je proti obveznemu služenju vojaškega roka ali vpoklicu, tudi usposabljanje traja dalj časa in ni poceni. Zato bo vse več avtonomnih orožij, ki jih bo upravljal človek od daleč, tudi več orožij hkrati. Večino časa bodo slednja delovala avtomatizirano, brez posredovanja človeka. To je le en primer izmed mnogih primerov uporabe UI v vojaške namene.

Globoko ponarejanje (deepfakes)

UI se lahko uporablja za ustvarjanje prepričljivih ponaredkov avdio in video vsebin, znanih kot globoko ponarejanje (deepfakes). Ti so lahko zelo zavajajoči in se lahko uporabljajo za škodovanje posameznikom ali za spodkopavanje javnega zaupanja.

Manipulacija čustev in vedenja

UI, kot so algoritmi za osebno prilagajanje vsebin na družbenih omrežjih, se lahko uporablja za manipulacijo čustev in vedenja uporabnikov, kar lahko vodi do odvisnosti od spleta, polarizacije mnenj ali celo politične manipulacije.

Korporativno vohunjenje

Mnoga podjetja imajo problem. Nimajo še dovolj dobrih pravil varne uporabe umetne inteligence, poleg tega pa so še večji problem ljudje, ki jih je treba pogosto z ničelnega znanja usposobiti dovolj dobro in hitro, da razumejo zmožnosti in pojavne oblike umetne inteligence. Le tako bodo manj izpostavljeni socialnemu inženiringu. Pa ne pozabimo, da lahko zaposlenim vpeljemo varnostne tehnološke ukrepe, nemogoče pa je zakleniti vse, kar je v možganih zaposlenih, ko ti odidejo domov in so tako ali drugače spet izpostavljenimi UI v različnih pojavnih oblikah. Problem so tudi analize, ki jih lahko UI ustvari na podlagi dostopa do internih podatkovnih baz. UI zna izbrskati zelo dobro skrite podatke in vzorce v podjetjih, za katera je nujno, da ne uidejo k konkurentom.

Umetna inteligenca – Zmore veliko, a kaj lahko stori, če se jo zlorabi proti nam?