Zadní vrátka softwaru generovaném AI
AI je velmi mocný nástroj. Pracuje na velice jednoduchém principu a má úplně jednoduchý algoritmus. Nicméně AI, než je nasazena do plného provozu, se musí dlouho trénovat. Je velmi rychlá v generování kódu. Jde vskutku o užitečný nástroj. Ale...
AI vyvíjená v USA (Claude, ChatGPT, atd.) musí respektovat nejen tamní zákonodárství, ale i vedení země, včetně představitelů držitelů moci.
Nevíte a ani nemůžete vědět (ani já to nevím), na co všechno zmíněné produkty byly natrénovány. Prezident Spojených států však prohlásil (nevím, jestli je to již právoplatný zákon), že všechen software vyrobený na území státu, jež vede, musí mít tzv. zadní vrátka.
Zákon o "zadních vrátkách", jehož platnost bude podporována veřejnými činiteli moci, udělá to (a jistě to již dělá), aby každý software generovaný AI měl v sobě minimálně alespoň zadní vrátka.
Čím více vývojářů ve světě bude používat technologie AI z USA (a dost pravděpodobně i z jiných krajin), tím více softwaru bude obsahovat alespoň zadní vrátka, kterými mohou unikat důležité informace o společnosti (ať už v komerční, anebo soukromé sféře) užívající takový software. A informace jsou jedny z nejcennějších a dnes nejžádanějších "produktů" na Zemi.
A jak to souvisí se čtenáři těchto webových stránek? Souvisí to hodně s lidmi, kteří "vyvíjejí" jakýkoliv software generovaný AI. Chtěl bych v těchto lidech (mně nevyjímaje) vyvolat trochu zodpovědnosti nad tím, co dělají.
A co by měli tedy Ti vývojáři s tím dělat? To se lehko řekne, ale těžko dělá. Prostě stvořit AI, která ty minimálně zadní vrátka mít nebude, u níž mají vývojáři minimálně 99% (ale spíše 100%) kontrolu nad trénovacími daty a pak i nad softwarem, jež taková AI produkuje.
Vím, že je to hodně práce, ale určitě by se vyplatila.
Pre pridávanie komentárov sa musíte prihlásiť.