ChatGPT

[ladin]

Často se opomíjí to, kdo za kód nebo obecně produkt AI bude v případě plné autonomie ručit. Kdo bude ručit za kvalitu, případné problémy, či dokonce škodu - AI firmy to dlouho nebudou. AI generovaný kód taktéž nemá žádnou licenci, co je zajímavé, zdá se, že není ošetřen případ, kdy AI vygeneruje kód, který je licenčně či patentově chráněn. Zkuste se zeptat Claude nebo Codexu, co dělat s vygenerovaným a nasazeným kódem, když jsem zjistil, že obsahuje fragmenty licensovaného kódu z GitHubu...

[Karell]

Nedávno jedna pražská nemocnice instalovala AI modul na vyhodnocování rentgenových snímků, doktoři jsou nadšeni.

Pepo, to už je poměrně známá aplikace. V lednu jsem si při lyžování v Alpách pochroumal kotník a AI vyhodnotila rentgenový snímek a doporučila na 10 dní dlahu. Nějaké mikrostrukturální změny. Zkušený doktor mně řekl, že sám nevidí nic, ale že rozhodně tomu vyhodnocení, po jeho zkušenostech, na 100% věří. Stalo se to tady, na chirurgické ambulanci v Jilemnici, dalo by se říct na relativně malé, provinční nemocnici.

[hades]

peto: to je s prominutím totální kravina. Pokud nemá vývojář kvalitní analýzu, udělá z toho paskvil jak člověk, tak i AI. Taky dělám v IT firmě, která dodává pro banky, moc dobře vím, jak takové projekty fungují, a AI to určitě nezachrání. Protože když někdo neví, co chce, tak bude prostor pro kreativitu. A podle toho pak takové projekty vypadají.

[peto]

Nemyslim ze je to kravina...uz vstupy do projektu by museli prejst cez filter AI, kde by sa zadavatel musel napasovat s poziadavkami na realizovatelnost podla standardov, a vsetko za tym by uz bol standardizovany proces vyvoja a testovania/kontroly SW v rezii AI. Poobede naplnime vstupy, a rano skontrolujeme otestovany SW, pripadne dynamicky doskalujeme HW.

[Naburko]

Chápu point, ale naznačuji, že to je zcela irelevantní.

Irelevantné to nie je. Pokiaľ sa AI používa nesprávne môže byť výsledok horší ako keby sa nepoužila. A faktom je že väčšina populácie ju používa zle.! A dokiaľ sa AI bude používať zle budú zlé aj výsledky! Koniec koncov to vidieť aj na BXT v Pixi... Ak sa použije nesprávne výsledok je horší ako keby sa nepoužil vôbec. Totiež a násobne platí pre rôzne univerzálne LLM.

[Psion]

Lidé dost často používají věci nesprávně, ale to není problém AI přece.....

[peto]

No ale tu nehovorime o pouzivani AI beznou populaciou, ktora bude vyuzivat vacsinou pripravenych agentov, ale o pouzivani AI na odbornych pracoviskach, s patricne kustomizovanymi (cize specializovanymi) modelmi s ktorymi budu pracovat odbornici v danom obore. Takze to bude nastroj pre odbornikov v odbore, a v tom pripade je to mocny nastroj.

[peto]

Lidé dost často používají věci nesprávně, ale to není problém AI přece.....

Ano, presne, ved je to vidiet aj v nasej komunite, ze niekto pouziva AI spravne a niekto nespravne....

[Psion]

Už vidím podobné titulky "Obvodní lékař léčil pacienty pomocí AI a špatně, vymlouval se na to, že za to nemůže, to přece AI"

[Naburko]

Lidé dost často používají věci nesprávně, ale to není problém AI přece.....

Problém AI to nie je... Ale nič to nemení na tom, že ak z toho budú liezť nahovno výsledky tak to jednoducho prácu človeka nahradiť nemôže.... rozhodne nie v kritickej infraštruktúre...

[Naburko]

No ale tu nehovorime o pouzivani AI beznou populaciou, ktora bude vyuzivat vacsinou pripravenych agentov, ale o pouzivani AI na odbornych pracoviskach, s patricne kustomizovanymi (cize specializovanymi) modelmi s ktorymi budu pracovat odbornici v danom obore. Takze to bude nastroj pre odbornikov v odbore, a v tom pripade je to mocny nastroj.

To je pekné ale ak ju odborníci budú používať nesprávne tak výsledky budú zlé. Rovnako tak to platí pri BXT. Je to špecializovaný model pre konkrétnu vec ale ak je použitý zle výsledok je zlý. To isté platí pre akékoľvek AI v prípade lekárstva, programovania etc.

[peto]

Preto som povedal odbornici....uvediem priklad... som si 100% isty, ze MMys pouzije BXT vzdy spravne, lebo vie ako to funguje, a kde to ma limity...to je cele. Odbornik pouzije spravny nastroj na vykonanie odbornej prace. A kazdy odbornik vie narabat so svojimi nastrojmi...preto je odbornik v danej oblasti. No a teraz prichadza do kazdeho odboru novy nastroj pre odbornikov - AI.

[Psion]

Problém AI to nie je... Ale nič to nemení na tom, že ak z toho budú liezť nahovno výsledky tak to jednoducho prácu človeka nahradiť nemôže.... rozhodne nie v kritickej infraštruktúre...

To je pořád dokola, AI je nástroj. Když si koupím soustruh, tak ze mě není soustružník a když to neumím používat, leze z toho paskvil. Nechápu, co je na tom nesrozumitelného.
AI nahrazuje L1 lidi právě v kritické infrastruktuře, protože člověk není schopen v tom malém počtu v každé firmě stíhat úkoly, které na ně klade kybernetický zákon a není schopen ty GB logů už ani vyhodnotit. Musí se to ale umět nastavit a používat.

[Naburko]

Presne tak dookola! Aaaaa vo tom to je! Že kúpa sústruhu zo mňa nerobí sustružníka. Tak používanie AI na programovanie nerobí zo mňa programátora. Celá táto debata začala na základe toho že "už to bude vedieť každý a skill nebude treba"... Takže áno musí sa to vedieť používať a nastaviť takže okrem toho že človek má skill a vie programovať musí mať aj skill používať AI! A rozhodne to nebude vedieť každý Franta uživatel!

[FunTomas]

Presne ako píše Naburko, točí sa to tu ako kolotoč - dokolečka dokola. Ja som narážal na jediné vyjadrenie a dal som ho do uvodzoviek.

"už to bude vedieť každý"

A presne toto slovné spojenie považujem za omyl a po celom slovnom pingpongu to napísal aj Psion v spojení so sústruhom.