Zadní vrátka softwaru generovaném AI

01.11 | 14:15 | novomente | novomente

AI je velmi mocný nástroj. Pracuje na velice jednoduchém principu a má úplně jednoduchý algoritmus. Nicméně AI, než je nasazena do plného provozu, se musí dlouho trénovat. Je velmi rychlá v generování kódu. Jde vskutku o užitečný nástroj. Ale...

AI vyvíjená v USA (Claude, ChatGPT, atd.) musí respektovat nejen tamní zákonodárství, ale i vedení země, včetně představitelů držitelů moci.

Nevíte a ani nemůžete vědět (ani já to nevím), na co všechno zmíněné produkty byly natrénovány. Prezident Spojených států však prohlásil (nevím, jestli je to již právoplatný zákon), že všechen software vyrobený na území státu, jež vede, musí mít tzv. zadní vrátka.

Zákon o "zadních vrátkách", jehož platnost bude podporována veřejnými činiteli moci, udělá to (a jistě to již dělá), aby každý software generovaný AI měl v sobě minimálně alespoň zadní vrátka.

Čím více vývojářů ve světě bude používat technologie AI z USA (a dost pravděpodobně i z jiných krajin), tím více softwaru bude obsahovat alespoň zadní vrátka, kterými mohou unikat důležité informace o společnosti (ať už v komerční, anebo soukromé sféře) užívající takový software. A informace jsou jedny z nejcennějších a dnes nejžádanějších "produktů" na Zemi.

A jak to souvisí se čtenáři těchto webových stránek? Souvisí to hodně s lidmi, kteří "vyvíjejí" jakýkoliv software generovaný AI. Chtěl bych v těchto lidech (mně nevyjímaje) vyvolat trochu zodpovědnosti nad tím, co dělají.

A co by měli tedy Ti vývojáři s tím dělat? To se lehko řekne, ale těžko dělá. Prostě stvořit AI, která ty minimálně zadní vrátka mít nebude, u níž mají vývojáři minimálně 99% (ale spíše 100%) kontrolu nad trénovacími daty a pak i nad softwarem, jež taková AI produkuje.

Vím, že je to hodně práce, ale určitě by se vyplatila.

    • RE: Zadní vrátka softwaru generovaném AI 14.11 | 09:55
      Avatar Richard antiX  Používateľ

      Všetci chceme, aby sme boli nezávislí od USA a Číny. Ale nechceme na to dať peniaze a iné zdroje. Nechceme posielať dáta na servre niekam mimo Európu. Ale dátové centra u nás nechceme, lebo elektrika a voda. Chceme mať vlastnú AI, ale európske projekty musia somrať peniaze po politikoch, hoci by to malo byť naopak.

      Proste tu máme silný jav NIMB (Not In My Backyard). Všetko chceme, ale nech tie nepekné vedľajšie vplyvy u nás nie sú.

       

    • RE: Zadní vrátka softwaru generovaném AI 14.11 | 12:36
      Avatar kamowski Linux Mint  Používateľ

      Proste tu máme silný jav NIMB (Not In My Backyard). Všetko chceme, ale nech tie nepekné vedľajšie vplyvy u nás nie sú.

      nám, čo sme žili ten svet, sa vysmievajú a hovoria čosi o "spomienkovom optimizme", neskutočné, aké slovné spojenia si vymyslia :D ale oni to robia ani si to neuvedomujú a nežili to :D :D :D,

      my sme mali zadarmo lekára, školu, zaistnú prácu, bývanie, cestovanie, .... a oni to chcú tiež,

      aj vtedy tí hore robili tak "aby to bolo dobre" a títo teraz chcú aby tí hore to vybavili, to zlé aby sa skrylo alebo urobilo inde, my chceme len smotanku na kávičke :D

    • RE: Zadní vrátka softwaru generovaném AI 15.11 | 03:33
      Avatar novomente   Používateľ

      Spíše než globální cloudové AI bych dal přednost lokální AI, která běží třeba na serveru vývojářského týmu. Namísto jedné AI, která umí všechno, bych zřídil více specializovaných modelů.