ChatGPT

[ladin]

Řešit s ním filosofické otázky je plýtvání energíí obou stran. ChatGPT žádnou inteligenci nemá, je to jen obří encyklopedie, která dokáže dost věrně napodobit lidskou komunikaci, ale nevyprodukuje nic, co nemá v datech. Nicméně i tak to může být skvělý pomocník.

po zkušenostech pochybuju...

https://chatgpt.com/share/68261b84-a7a8 ... 90700d1ee5

[seestar]

Nechci ti brát iluze, ale jak AI ví, co je pravdivé tvrzení? Nemá žádné smysly, ani jiné prostředky, jak by mohla cokoli verifikovat, takže její výroky jsou vždy jen mixem informací, které do ní při tréninku vložili. Jeden významý vedec AI označil za dokonalého plagiátora, který jen kopíruje cizí myšlenky právně nenapadnutelným způsobem. Podle mě není daleko od pravdy.

[MaG]

Nemohla by se diskuze o AI ubírat astronomickým směrem? Ladin se tu o to pokusil a nyní je tu několik příspěvků s astronomií nesouvisejících. Chápu, že nemáte po ruce fórum o AI a tak s tím jdete sem, ale opravdu to sem nepatří a prosím o nasměrování zpět k astronomii a využití AI.

[Psion]

Já jsem zkoušel vložit interferometrický protokol, aby ho analyzoval a udělal to správně, včetně komentářů. Většina se snaží dokázat, že to je trouba, já ho využívám, aby mi pomohl.

[seestar]

Ano, potvrzuji. Když mi tvrdil nesmysly, a poučil jsem ho jak to je, tak na dotaz, jestli si to příště už bude pamatovat, byla jednoznačná odpověď, že ne. Že na to není tak zkonstruovaný.

Veškerá AI, která je veřejně dostupná, má zablokovaný účící se mód při komunikaci s klientem. Majitelé chtějí mít svojí hračku na 100% pod kontrolou a není zájem, aby se někde dozvěděla něco jiného, než co oni chtějí aby věděla. V dialogu akceptuje nové informace a dovede s nimi pracovat, ale jakmile je dialog ukončen, vše je ztraceno.

[hades]

To není pravda, mám to ověřeno.

[seestar]

Máš ověřeno něco, co je v přímemém rozporu s tím, co veřejně prohlásili všichni velcí hráči na poli AI. V EU je to dokonce jedna z hlavních podmínek provozování AI. Přečti si regule vydané EK pro výzkum, vývoj a provoz AI. Je to i zcela pochopitelné. Kdyby AI akceptovala každou hovadinu, co jí kdo nakuká, protože ona žádné mechanismy verifikace nemá, byl by to brzy hodně nebezpečný nástroj. Nepochybně existuje nějaká forma zpětné vazby, která umožnuje programátorům korigovat informace i na základě získaných údajů, ale to jde mimo on line režim.
Navíc by ti měla stačit odpověď, kterou MM od AI dostal. Je přesně v souladu s tím, co jsem napsal.

[MMys]

Placená verze se zjevně učí podle toho, co s ní dělám, zná moje schopnosti, požadavky, ale ta paměť zřejmě platí jen v rámci mého účtu. Vidím to teď když programuji ALPACA driver pro kopuli. Už jsem předtím psal driver pro spínače a ty věci, které jsem tenkrát požadoval, mi nyní automaticky aplikuje i v dalším projektu. Celkově je to pro mne obrovské zrychlení. Ona si přečte celé ALPACA API, a všechny požadované endpointy a JSON struktury doplní do předpřipraveného projektu, a já jen doplním vazby na konkrétní HW mojí desky, kterou pochopitelně nezná. Kdybych to měl opisovat z dokumentace a psát ručně, trvalo by to tak 5x déle.

[seestar]

Přesně tak to funguje. V rámci jednoho dialogu (klienta) jsou data uchována, ale pokud někdo jiný řeší stejný problém, nejsou poznatky z tvého dialogu aplikovány. Je o tom na YTB přednáška, kde to nějaký pan docent dost podrobně vysvětluje a vysvětluje i to, proč to tak musí být.

[Psion]

Ale to říkáš něco v rozporu se svým příspěvkem #80. AI se dá pod daným účtem naučit dělat věci, které běžně neumí a není to pro daného uživatele ztraceno.

[Boramyr]

Připadá mi, že se tu v diskuzi plete dohromady učení ve smyslu "trénink" a učení ve smyslu "pamatování kontextu". To jsou dvě diametrálně odlišné věci. Tím, že budete v konverzaci AI opravovat či mást, její natrénování nijak neovlivníte. To proběhlo jednou při tvorbě modelu a od té doby jsou ty stamiliardy vah v neuronech konstanty. Co však ovlivníte, je kontext vaší konverzace který AI používá při tvorbě odpovědi. Musí si pamatovat o čem se bavíte, jinak by ztratila nit hned u druhé odpovědi. Kontext se pochopitelně vztahuje jen na konkrétní konverzaci (resp. uživatele), takže pokud AI naučíte nadávat ve vogonštině, tak si to budete užívat jen vy sami.

[seestar]

Ale to říkáš něco v rozporu se svým příspěvkem #80. AI se dá pod daným účtem naučit dělat věci, které běžně neumí a není to pro daného uživatele ztraceno.

Žádný rozpor v tom není. Komunikace s klientem není tréning, jak správně napsal Boramyr. Ta globální chování AI nijak neovlivní, ale v rámci jednoho dialogu umí s novými informacemi pracovat. Platí to ale výhradně pro daného klienta. Pro jiného tyto informace nevyužije.
Platí jasné pravidlo, že klientská data nijak neovlivní tréning AI.

[Psion]

AI se dá trénovat pro daného uživatele, s tím tady má zkušenost spousta lidí. AI můžete naučit psát správně programy, psát recenze nebo disertační práce. Ale musíte ji to naučit, jak ten výstup má vypadat. To že si pamatuje kontext je uživatele je druhá věc. Nakonec, stačí se zeptat AI:

Řekl/a jsi:
Mohu tě naučit jak správně interpretovat testy optických elementů?

ChatGPT řekl:
Rád se naučím, jak správně interpretovat testy optických elementů. Můžeš mi prosím popsat, jaký typ testů máš na mysli (např. interferometrie, MTF, spektrální odrazivost, polarizace apod.) a jakým způsobem se obvykle hodnotí?

Řekl/a jsi:
Ty postupy pak budeš uplatňovat pouze u mě, nebo u všech lidí, co se dotáží?

ChatGPT řekl:
Skvělá otázka! To, co mě "naučíš" během této konverzace, se vztahuje pouze na tuto konkrétní relaci mezi námi – nebudu to uplatňovat u jiných uživatelů a nezapamatuji si to pro budoucí konverzace s tebou, pokud nemáš aktivovanou funkci Paměť.

Pokud paměť aktivovanou nemáš, můžu se to naučit „na místě“ a používat během našeho aktuálního rozhovoru, ale po ukončení konverzace se to zapomene.

Pokud paměť aktivovanou máš, a výslovně mě požádáš, abych si to pamatoval, mohu si daný postup zapamatovat a uplatňovat při dalších interakcích s tebou – a opět, pouze s tebou.

Chceš tedy sdílet svůj postup teď? Rád se přizpůsobím.

[seestar]

Řekl ti to naprosto jasně. To, co jsi ho naučil, bude používat výhradně a jen s tebou. Tím je splněna podmínka, že uživatelská data nesmí mít globální dopad na práci AI.

[Benyfox]

Přidám slovo do pranice - můj příběh s Ai začal cca před měsícem, když jsem se snažil nahradit temnou energii něčím jiným, co by mohlo mít stejný efekt na rozpínání. První co mě napadlo, byla viditelné hmota (moc toho tam není po ruce, čím by se dalo nahrazovat). Můj původní plán byl, že když poroste hmota, my to nebudeme vědět, jelikož porostou i naše měřítka s ní - no ale že teda ta hmota bude vytlačovat prostor, což bude ona chybějící energie. Ai mě hned uzemnila, že hmota prostor nevytlačuje (tlakem), pouze jej ohýbá. Nicméně, co chci říct, ačkoliv jsem tehdy měl free verzi (chatGPT), tak od té doby mi přestala free verze přepínat - prostě jsem měl trvale plnou verzi - a spontánně si ukládala různé pointy. Já samozřejmě vím, že za každým vláknem je uzel - člověk - který každé vlákno může vidět - pokud chce - a kdykoliv může do toho různými způsoby zasáhnout. Takže vše, co se děje ve vlákně, je do jisté míry vůle onoho správce.