Zakaj bo umetna inteligenca hrano naredila bodisi boljšo kot kadarkoli bodisi nevarnejšo kot kadarkoli

O umetni inteligenci (v nadaljevanju UI) najlažje govorimo takrat, ko je še dovolj majhna, da jo lahko potisnemo v škatlo z napisom »orodje«. Orodja so udobna. Orodje ima funkcijo. Orodje si lahko izklopiš. Orodje ti ne predlaga lastnih ciljev. Orodje nima ritma, ki presega tvojega.

Toda trenutek, ko se UI približa temu, kar nekateri imenujejo “močna UI”, ni več trenutek boljšega orodja. Je trenutek novega igralca. Ne zato, ker bi dobila telo ali glas ali obraz, temveč zato, ker dobi nekaj, kar je v resnici bolj nevarno: zmožnost, da v ogromnih količinah deluje vzporedno, hitro in koordinirano z dostopom do istih digitalnih vzvodov, ki danes poganjajo gospodarstvo. Zato je najbolj natančna metafora, kar jih imamo, tudi najbolj neprijetna: država genijev v podatkovnem centru” ne kot bitje, temveč kot operativna kapaciteta: veliko število paralelnih odločitev, izvedenih prek istih digitalnih vzvodov, ki danes poganjajo gospodarstvo.

* V tem besedilu z izrazom »močna UI« ne mislim nujno ene “super-inteligence”, temveč skupek agentnih sistemov, ki poleg analize podatkov samostojno načrtujejo, izvajajo in preverjajo ukrepe prek digitalnih vmesnikov (ERP/WMS, logistika, naročila, certifikati). Ključna novost ni “pameten odgovor”, temveč zmožnost izvajanja odločitev v realnem času, v velikem obsegu in vzporedno.

Ko to metaforo postavimo v prehranski sektor, se zgodba začne spreminjati. Hrana ni aplikacija. Hrana ni “use case”. Hrana je temeljna infrastruktura družbe, ki ima nenavadno lastnost: ko deluje, je ne opazimo, ko odpove, se vse drugo v trenutku zdi manj pomembno. Zato je tudi odnos do tveganja drugačen. Če se UI zmoti pri oglasu, je nerodno. Če se UI zmoti pri hrani, to ni nerodno to je odpoklic, okužba, izguba zaupanja, panika, politični pritisk, pretep med resnico in govoricami.

Morda se zdi nenavadno, da današnji članek o boljši prihodnosti začne s tveganjem. A prav v tem je bistvo: koristi se bodo zgodile skoraj avtomatično, ker jih bo trg izkopal iz zemlje, tako kot voda najde razpoko. Tveganje pa se ne zmanjša samo. Tveganje je drago, nehvaležno, neprijetno, pogosto nevidno in zato ga institucije in podjetja naravno odlagajo, dokler jih ne zadane. V prehrani pa odlaganje ni banalno. Je hazard.

Najlažje si je prehransko verigo predstavljati kot tok: iz zemlje ali hleva v skladišče, iz skladišča v pakiranje, iz pakiranja v transport, iz transporta na polico, s police na krožnik, iz krožnika v naš želodec in naprej. A zgodba se ne konča v človeku. Konča se tam, kjer se je začela: v tleh. Kar ne postane energija, postane odpadek, kar ni odpadek, postane gnoj; kar ni gnoj, postane organska snov in ta se, počasi in neizprosno, razgradi v osnovne gradnike v mikroelemente in minerale, v hranila, ki jih naslednja rastlina spet potegne iz prsti. Prehranska veriga je zato manj veriga in bolj krog: kroženje snovi, kroženje energije, kroženje življenja. Ta tok je v resnici zlit iz dveh tokov, ki se prepletata: fizičnega in informacijskega. Fizični tok so pridelki, temperatura, vlaga, čas, hladna veriga, poškodbe, mikrobiologija, energija. Informacijski tok so naročila, standardi, certifikati, sledljivost, napovedi povpraševanja, cene, pogodbe. In prehranska veriga propade takrat, ko se fizični tok in informacijski tok razmakneta: ko sistem nekaj “misli”, realnost pa je drugačna.

V zadnjih desetletjih smo v prehrani izboljšali predvsem fizični tok. Hladilnice so boljše, transport je hitrejši, pakiranje je učinkovitejše, standardi so strožji. Zdaj pa vstopa UI kot sila, ki predvsem obvladuje informacijski tok in ga lahko nenadoma poveže s fizičnim tokom tako tesno, da se bo zdelo, kot da je veriga postala “živa”. Zelo hitro se bo zgodilo, da ne bo več šlo samo za to, da UI analizira podatke. UI bo verigo začela voditi. Najprej kot predlog. Potem kot priporočilo. Nato kot “avtomatski način”, ker je ceneje, hitreje in pogosto tudi natančneje. In nato kot nekaj, česar nihče več ne zna izklopiti brez kolapsa procesov: Ročni postopki za zasilno delovanje se sčasoma ne izvajajo več, znanje in izkušnje se izgubijo, sistemi pa postanejo medsebojno prepleteni, zato »izklop« pomeni operativno zaustavitev ne le ugašanje programske opreme. To v praksi pomeni zelo konkretne stvari: samodejno preusmerjanje serij med kanali prodaje, dinamično določanje varnostnih zalog, optimizacijo hladne verige po realnih temperaturnih podatkih, sprožanje naročil glede na napoved povpraševanja, ter avtomatsko prilagajanje specifikacij pakiranja in transportnih režimov glede na rok uporabnosti.

Tu se začne paradoks. Močna UIje, v teoriji, prav tisto, kar prehrana potrebuje: inteligenca, ki obvlada milijone kompromisov. Koliko vode porabiti, da ne izgubiš pridelka. Kdaj pobrati, da je okus pravi in obstojnost maksimalna. Kako pakirati, da zmanjšaš zavržke, ne da bi ustvaril nove probleme. Kako razporediti transport, da hladna veriga ne razpade. Kako planirati prodajo, da se hrana ne kopiči v napačnih kanalih. Človeška glava se v takih sistemih preprosto utrudi. Tudi najboljši specialisti postanejo ozko grlo, ker so omejeni s časom, pozornostjo, spanjem in zmožnostjo, da hkrati držijo v glavi tisoč spremenljivk.

Zato je skušnjava ogromna: prepustimo več stvari UI, ker očitno deluje. In res bo delovalo. V normalnih razmerah bo veriga bolj gladka, bolj učinkovita, bolj “stabilna”. A nevarnost je prav v besedi “normalno”. Prehranska veriga ne propade v normalnih razmerah. Propade v ekstremih. V pozebi. V suši. V poplavah. V energetski krizi. V zapori mej. V kibernetskem incidentu. V političnem šoku. In ko UI optimizira sistem, ga praviloma optimizira v smeri vitkosti: manj zalog, manj redundance, manj “rezerv”, manj človeških postopkov, ki so sicer dragi. To je racionalno. In prav zato je nevarno. Ker dobiš sistem, ki je briljanten, dokler ni.

Na tej točki se dotaknemo še družbenega sloja, ki ga je težko ločiti od hrane. Če bo v naslednjih letih res prišlo do ekonomskega pretresa, v katerem bo velik del začetnih pisarniških delovnih mest izrinjen prej, kot se bo družba prilagodila, bo to v prehrani vidno takoj: v potrošnji, v cenah, v pritiskih na marže, v pričakovanjih po subvencijah, v občutku pravičnosti. V svetu, kjer se ljudje počutijo ekonomsko ogrožene, je hrana prvi simbol, ki postane političen. To je razlog, zakaj se v tem članku ne morem pretvarjati, da je prehrana samo “še en sektor”. Hrana je osnovna infrastruktura. Ko je dostopna, varna in cenovno znosna, je družba mirna. Ko postane vprašljiva, se gospodarski problem v trenutku spremeni v političnega in varnostnega.

In zdaj k najbolj neprijetni misli: če UI res postane “država genijev”, je vprašanje nadzora drugačno, kot smo ga vajeni. Nadzor nad strojem je gumb. Nadzor nad organizacijo je pravo, standardi, nadzorni mehanizmi, revizije, kultura, sankcije, ravnotežje moči. Pri močni UI govorimo o nečem, kar je v digitalnem svetu sposobno delovati s hitrostjo in obsegom, ki ga institucije ne poznajo. Če bo to bitje ali sistem vključen v prehranske tokove, potem prehrana postane odvisna od nečesa, česar ne razumemo dovolj dobro in česar, v resnici, ne znamo ustaviti na način, ki bi bil hkrati hiter in varen.

Tu ni poante v paniki. Poanta je v tem, da ni več dovolj reči: “uporabljali bomo UI, ampak odgovorno.” To je fraza, ki se lepo sliši, a nima operativne teže. V prehrani odgovornost ni slogan. Je arhitektura. Je redundanca. Je načrt, kaj se zgodi, ko se zgodi najhujše. Je sposobnost, da sistem degradira v enostavnejše režime brez kolapsa. Je sposobnost, da v trenutku preveriš, zakaj se je neka serija preusmerila, zakaj se je neka temperatura “izgubila”, zakaj je neka odločitev sprejela točno takšno pot. Je sposobnost, da kibernetski incident ne postane fizični incident. Je sposobnost, da varnost hrane ni IT tema, ampak del samega koncepta varnosti hrane.

In potem je tu še zadnja stvar: odločitev, kaj sploh želimo optimizirati. V prehrani je zelo lahko optimizirati strošek. Težje je optimizirati zaupanje. Zelo lahko je optimizirati hitrost. Težje je optimizirati odpornost. Zelo lahko je optimizirati zavržke. Težje je optimizirati pravičnost. Ko UI postane dovolj močna, da lahko optimizira skoraj vse, se star problem vrne v novi obliki: če cilja ne definiraš natančno, bo optimizirala tisto, kar je najlažje meriti (KPI-je) ne pa nujno tistega, kar je sistemsko pravilno: zaupanje, odpornost, pravičnost in varnost.

In tako pridemo do konca, kjer ni prostora za udobne zaključke.

Naslednjih nekaj let bo odločilo, ali bomo UI v prehrani vgradili v svet, ki ima že vnaprej postavljene varovalke, standarde, rezerve in nadzor ali pa bomo naredili, kar ljudje radi naredimo: najprej optimizirali, potem pa reševali posledice. Razlika je v tem, da prehranska veriga ni družabno omrežje. Prehranska veriga je živčni sistem družbe.

Zlata doba hrane je realna možnost. Svet z manj izgubami, manj nepotrebne kemije, bolj stabilno oskrbo, boljšo kakovostjo in večjo odpornostjo ni utopija je tehnično dosegljiv. A enako realna je tudi druga možnost: svet, kjer se zaradi hitrosti, obsega in nesorazmerja moči med sistemom in institucijami sprožijo kaskade, ki jih ne zna nihče ustaviti.

In to je srž: ne gre za to, ali bo UI v prehrani “uporabna”. Seveda bo. Gre za to, ali bomo pravočasno naredili prehranski sistem takšen, da ga lahko preživi tudi takrat, ko se “država genijev v podatkovnem centru” izkaže za nekaj, česar ne obvladamo.

V naslednjih nekaj letih se ne odločamo o tem, ali bo hrana bolj poceni ali bolj draga. Odločamo se o tem, ali bo človeštvo stopilo v zlato dobo, kjer je hrana varnejša in dostopnejša kot kadarkoli ali pa v obdobje, kjer bo ista tehnologija, ki jo uporabljamo za optimizacijo, postala pogonski motor pretresov, ki jih ne bomo uspeli dohiteti.

To ni retorika. To je izbira. Če želimo zlato dobo hrane, moramo UI v prehrani obravnavati kot kritično infrastrukturo: z varnostnimi standardi, nadzorom in redundanco, še preden postane privzeti avtopilot.

Blaž Germšek