Novice in obvestila

Vam je AI ukradel znanje in nadzor?

Razvijalci v hitro rastočih tehnoloških ekipah z veseljem prevzemajo AI orodje za pomoč pri generiranju kode. Produktivnost vidno narašča. Koda je čistejša, hitreje napisana in z manj sintaktičnimi napakami. Vodstvo je zadovoljno.

Šest mesecev pozneje nihče v ekipi ni več zmožen razložiti, zakaj je ključni del sistema zasnovan tako, kot je. Sprememba enega modula povzroči verigo nepričakovanih napak v treh nepovezanih delih sistema. Nov član ekipe se ne more vklopiti, čeprav dokumentacija obstaja. Koda deluje, ekipa pa izgubi nit.

To ni zgodba o slabem kodiranju. To je zgodba o novi vrsti izgube, ki nastaja tiho in ki ga klasični pristopi k upravljanju kakovosti kode ne zaznajo.

Tehnična izguba: tista, ki jo poznamo

Pojem tehnične izgube (tehničnega dolga) je v razvojnih ekipah dobro uveljavljen. Gre za metaforo za kompromise pri implementaciji, ki pospešijo kratkoročni razvoj, a otežijo prihodnje spremembe. Kompleksna arhitektura, ki je nihče ne bi zasnoval znova. Zastareli vzorci, ki so ostali iz preteklosti. Odsotnost testov na kritičnih delih sistema.

Generativna AI ima zanimiv učinek na tehnično izgubo: jo zmanjšuje. Avtomatizirano prestrukturiranje kode, generiranje testov in pregled kode so naloge, pri katerih so sodobni AI modeli učinkoviti. Za organizacije, ki uvajanje AI razumejo strateško, je to resnična priložnost za zmanjšanje izgube, ki se je nabirala leta.

A medtem ko AI zmanjšuje tehnično izgubo, tiho pospeši dve drugi obliki izgube, ki sta manj vidni in dolgoročno bolj nevarni.

Kognitivna izguba: ekipa ne ve več, kako sistem deluje

Kognitivna izguba je erozija skupnega razumevanja sistema. Nastaja, ko nihče v ekipi ne more samozavestno razložiti, kako sistem deluje, ali napovedati, kaj se bo zgodilo ob spremembi določenega dela.

Klasičen vzrok kognitivne izgube je bil čas: ob hitrem razvoju in menjavi ekip se razumevanje izgublja. AI ga pospeši na nov način. Ko model generira kodo hitreje, kot jo razvijalec prebere ali razume, se razumevanje sistema nikoli ne razvije v celoti. Koda nastane, miselni model o tem, zakaj je zasnovan tako kot je, pa ne.

Znaki kognitivne izgube v ekipi so prepoznavni:

Kognitivno izgubo je težko meriti, ker je razporejen med ljudmi in ni neposredno viden v kodi. Ko pa se nakopiči do kritične točke, postane večja ovira kot katerakoli količina tehnične izgube.

Namenska izguba: sistem ne ve več, zakaj obstaja

Namenska izguba je odsotnost jasno zabeleženih ciljev, omejitev in utemeljitev, ki naj bi vodile razvoj sistema. Gre za izgubo v artefaktih, ki nikoli niso bili napisani: zakaj je arhitektura taka kot je, kateri kompromisi so bili sprejeti in zakaj ter kaj sistem ne sme početi.

Namenska izguba nastaja subtilno. V zagonskih podjetjih, ki se hitro prilagajajo trgu, se cilji spremenijo vsak mesec. V večjih organizacijah odločitve sprejmejo ljudje, ki potem odidejo. Z AI agenti pa nastaja na nov način: ko agent predlaga rešitev, ker »se je zdela dobra«, se namenska izguba že kopiči.

Praktičen primer: na vprašanje, zakaj dve storitvi komunicirata preko čakalne vrste namesto neposrednega klica, je odgovor »agent je predlagal in se je zdelo v redu«. To je namenska izguba. V trenutku, ko bo ekipa morala to odločitev spremeniti ali jo razložiti zunanjemu revizorju, bo cena te izgube visoka.

Kako vse tri vrste izgube medsebojno delujejo

Tri vrste izgube niso neodvisne, temveč se vzajemno krepijo.

Ko organizacija vlaga v generativno AI z namenom pospešiti razvoj, a hkrati ne skrbi za ohranjanje skupnega razumevanja in dokumentacijo namena, pridobi hitrejše kopičenje kognitivne in namenske izgube. Sistem deluje, ekipa pa postopoma izgublja sposobnost varnega in predvidljivega upravljanja tega sistema.

Praktični pristopi za upravljanje vseh treh vrst izgub

Upravljanje kognitivne in namenske izgube ni bistveno drugačno od upravljanja tehničnega. Zahteva namerno pozornost in sistematičen pristop.

Za kognitivno izgubo vzpostavite kulturo razlage. Ne le pisanja kode, temveč razlage, zakaj je koda taka kot je. Pregled kode naj sprašuje po razumevanju in ne le po pravilnosti. Delo v parih prenaša razumevanje med člani ekipe. Redne razprave o zdravju sistema pa pomagajo, da ekipa skupaj obnovi miselne modele.

Za namensko izgubo dokumentirajte odločitve. Ne le tega, kaj je bilo odločeno, ampak zakaj in kateri kompromisi so bili sprejeti. Zapisi o arhitekturnih odločitvah so uveljavljeno orodje. Za dele sistema, ki jih je generiral AI, dodajte komentarje, ki razložijo namen in omejitve, ker AI tega ne more narediti namesto vas.

Za vse tri hkrati velja naslednje: organizacijska pričakovanja glede produktivnosti z AI ne smejo zanemarjati časa za razumevanje. Ekipa, ki ima dovolj časa za razumevanje, je dolgoročno hitrejša in stabilnejša od ekipe, ki tega časa nima.

Kar AI ne more narediti namesto vas

Generativna AI je zmogljivo orodje za zmanjšanje tehnične izgube. Za kognitivno in namensko izgubo pa velja nasprotno: AI pospeši njuno nastajanje, hkrati pa je ne more odpraviti. Skupno razumevanje sistema nastane v interakciji med ljudmi, v razpravah, pregledu kode in skupnem reševanju problemov. Namen sistema mora biti artikuliran s strani ljudi, ki razumejo poslovni kontekst in sprejemajo odgovornost za odločitve.

To ne pomeni, da AI pri tem ne pomaga. Pomeni, da ni nadomestilo. Organizacije, ki tega razlikovanja ne razumejo, bodo ustvarile sisteme, ki delujejo danes, a jih jutri nihče ne bo znal varno spremeniti.

Pogovorimo se o zdravi uvedbi AI v vaš razvoj >