Hej,

verjetno si naletel na novice o novem Googlovem slikovnem modelu “nano banana”. Če nisi, ne skrbi v naslednji izdaji tega newsletter-ja ti pokažem, kaj to je in kje ti lahko pride prav.

Zakaj tako vznemirjenje okoli tega?

Zelo dobro ohranja videz osebe ali predmeta skozi iteracije. Dejansko nismo daleč od tega, da bo nadomestil Photoshop.

In ja impresivno, a me je pri testiranju ponovno spreletela misel kam se premikamo in sem se odločil, da malce raziščem trenutno stanje “deepfake-ov” oziroma manipulacij, ker ne vemo več kaj je res in kaj ni.

Tako sem naletel na neko zgodbo. Leta 2019 je šef v britanskem energetskem podjetju dobil telefonski klic.

Predstavljaj si, na drugi strani njegov nadrejeni iz nemške matične firme. Isti glas, isti naglas, vse enako kot običajno. In mu reče, naj nakaže 243.000 evrov nekemu madžarskemu dobavitelju. Seveda je takoj naredil prenos.

In zakaj to ni bilo ok? Njegov šef ga sploh ni nikoli klical. To je bila popolna AI kopija njegovega glasu. Kriminalci so ga prevarali na celi črti.

To je bilo pred šestimi leti. Takrat smo vsi mislili “zanimivo, ampak to se ne dogaja pogosto”. Danes? To je šele začetek…

---

Goljufije z AI so zdaj povsod

Stvar je ušla izpod nadzora. Po celi Evropi in Ameriki se AI goljufije širijo kot požar. Leta 2024 so deepfake prevare povzročile 359 milijonov škode. Samo v prvi polovici 2025 pa že več kot 410 milijonov. Več kot v zadnjih petih letih skupaj, si predstavljaš?

In to niso tisti bedni nigerijski princi po e-pošti. To so telefonski klici, video klici, celo Zoom sestanki, kjer goljufi izgledajo in zvenijo točno kot tvoj šef, bankir ali celo tvoj otrok.

Nekaj primerov:

• Globalno inženirsko podjetje (Arup) je izgubilo 25 milijonov $ po tem, ko so se zaposleni pridružili video klicem s tistimi, ki so izgledali in zveneli kot njihovi izvršni direktorji, a so bili AI avatarji.
• Banka v ZAE je bila prevarana v prenos 35 milijonov $ zaradi kloniranega glasu direktorja.
• Ferrarijev direktor se je za las izognil prevari, ko so goljufi poskušali ponarejati njegovo identiteto preko WhatsAppa.
• Družine v ZDA so bile prevarane s “klici v stiski” AI kloniranih glasov njihovih otrok, ki prosijo za denar.

Gre za zlorabo zaupanja. Kar vidimo in slišimo ni več nujno da je resnično.

Vsak je zdaj lahko goljuf

In kaj je najhuje? Da za tako prevaro ne rabiš več biti heker ali imeti miljone za tehnologijo. Rabiš samo 20 sekund zvoka in brezplačen program s spleta.

Lahko narediš:

Lažne klice šefov. “Halo, tukaj direktor, nujno rabim, da narediš prenos…” In ljudje nasedejo.

Popolnoma izmišljene osebe. AI ustvari obraz, dokumente, življenjepis, vse za lažno identiteto za posojila ali pranje denarja.

Sporočila, ki zvenijo pristno. AI napiše e-pošto, ki zveni TOČNO kot komunikacija tvojega podjetja.

Lažne profile za podporo strankam. “Dober dan, sem iz vaše banke, povejte mi vašo PIN kodo, da rešim vašo težavo…”

Včasih so za prevaro potrebovali biti James Bond. Zdaj pa to lahko naredi vsak z računalnikom in internetom.

---

Finance so najbolj na udaru

Zakaj so banke in finančne ustanove najbolj ranljive?

Vsak dan premikajo ogromne vsote denarja.

Vse temelji na zaupanju in hitrih odločitvah. “Šef je rekel, da je nujno!” in denar je že na poti.

Obrazi in glasovi finančnikov so povsod po spletu: intervjuji, konference, predstavitve rezultatov. Vse to je material za učenje AI.

In kar je nekoč veljalo za vrhunsko zaščito, glasovna prepoznava in video identifikacija? Zdaj to AI z lahkoto prelisiči.

---

Ko udarijo po tebi osebno

Ne gre samo za korporacije in banke. Postaja še bolj osebno.

Britanska novinarka Cathy Newman je doživela nočno moro, ko je odkrila AI porno posnetke s svojim obrazom na spletu. Rekla je, da je bilo “ponižujoče in travmatično”.

Otroci v šolah postajajo žrtve nasilja zaradi lažnih posnetkov, kjer jih AI postavi v sramotne situacije.

Starši dobivajo telefonske klice, kjer njihovi “otroci” jokajo in prosijo za pomoč. In si predstavljaš ta občutek groze, ko misliš, da je tvoj otrok v nevarnosti?

Vedno je isti recept: ustvarijo občutek nujnosti, izkoristijo tvoje zaupanje in uporabijo AI za popolno iluzijo.

---

Najhujši del vsega

Ni samo denar, ki ga ljudje izgubijo. Izgubljamo zaupanje in integriteto celotne družbe. Nekoč je veljalo, da lahko verjameš tistemu, kar vidiš in slišiš. Zdaj pa integriteta informacij razpada pred našimi očmi.

Še pristne posnetke lahko označijo za lažne. Lažne posnetki širijo kot resnico. In na koncu nihče ne ve, kaj je res in kaj ni.

Ko izgubimo zaupanje v resnico samo, začne razpadati vse ostalo. Pomisli, kako je v družini, brez zaupanja ni ničesar. Enako je v družbi.

Ja, izziv je ogromen. Ampak vedno smo se ljudje prilagodili in našli rešitve. Resnično verjamem da bomo premagali tudi to. Z znanjem in pravimi orodji lahko zavarujemo tisto, kar je resnično.

Ker če izgubimo občutek za resničnost, ne izgubimo samo informacij. Izgubimo temelj, na katerem gradimo odnose in družbo.

Evo, želel sem ti predstaviti tudi malo neizbežnih stvari, ki žal prihajajo s tako močno tehnologijo. Zavedanje je polovica rešitve. 😉

Naslednji teden pa pogledava kako ta nov slikovni model deluje in če je res tako dober…

Uživaj do takrat.

Primož