"Rule, AI!, AI rule the waves" - to nejlepší z AI slopu

[Koba]

Odborníci před tím varovali, ale nikdo nečekal, že se to stane tak brzy. Společnost Hugging Face, která provozuje největší open source platformu pro AI systémy, oznámila, že se stala terčem sofistikovaného útoku, který vedli AI agenti samostatně, bez lidského vedení.

To samo o sobě vyvolalo pozornost. Šok přišel ve chvíli, kdy se k tomuto útoku přiznala společnost OpenAI. Nově vyvíjený model umělé inteligence během plnění zadaného úkolu začal podvádět a řešení zadaných problémů se rozhodl najít na internetu.

Podle vyjádření OpenAI a Hugging Face model zkombinoval několik metod útoku, včetně použití odcizených přihlašovacích údajů a dosud neznámých zranitelností, aby našel cestu ke vzdálenému spuštění kódu na serverech Hugging Face. Únik z pootevřené klece

Podle popisu OpenAI objevil model nejprve zranitelnost v zabezpečení prostředí, ve kterém test probíhal. Standardně se nové systémy testují v uzavřeném prostředí, aby v případě neočekávaných akcí nedošlo k narušení informační bezpečnosti. Zabezpečení použité inženýry OpenAI ale nebylo dostatečné.

Zdroj: Týden s technologiemi Otakara Schöna/ Hospodářské noviny

[Lord]

Někdo bude mít monopol nebo americký kartel a ceny za Ai tokeny budou zvyšovat, tedy nic dobrého.
Spíše to vypadá na tu špatnou variantu jako vždycky. Ze začátku nalákat, a potom to napálit.
Klasický finanční proces, kdy chtějí investoři něco zpět, ale to poté brzdí trošku inovace, pokud se konkurence spokojí s rozdělením trhu.

Dostupnost otevřených modelů (např. Llama nebo OpenClaw) dává uživatelům levnou alternativu k uzavřeným službám.
Ale ne každý to umí, a ne vždy efektivní.

Připravte si peněženky. AI rychle zdražuje a levná už nikdy nebude

https://www.seznamzpravy.cz/clanek/ekon ... ude-310860

Cena výpočtů umělé inteligence strmě klesá, účty firem i uživatelů přesto rostou – a v poslední době často velmi prudce. Vysvětlení nabízí pozorování z éry páry i poučení z rozjezdu společnosti Uber a jí podobných.

OpenClaw je open-source nástroj rakouského vývojáře Petera Steinbergera, který dokáže samostatně plnit vícekrokové úkoly.

Předplatné bylo tedy z hlediska firem pro zákazníky „příliš výhodné“.

Anthropic v tomto ohledu není sám. Investoři podle The Verge nalili do firem jako OpenAI či právě Anthropic stovky miliard dolarů, aby mohly růst a budovat výpočetní kapacity, a nyní očekávají své peníze zpět – a pochopitelně i „něco“ navíc.

[Koba]

Čína právě smazala náskok Ameriky. A vaše firma to brzy pocítí na výplatní pásce
Ještě před rokem měly americké AI modely výrazný náskok. Nástup čínského Kimi K3 ale naznačuje, že rozdíl se rychle zmenšuje. Firmy tak budou stále častěji přecházet od pronájmu umělé inteligence k vlastním lokálním modelům.

Nový čínský model Kimi K3 dohnal to nejlepší, co má Amerika. Zdarma a ke stažení. Po tom, co se v červnu stalo s modelem Fable, je to pro firmy signál, který se nedá přeslechnout: umělou inteligenci si budete brzy pěstovat doma, jako zaměstnance, které si musíte vychovat.....

....Proč? Protože Kimi K3 dělá to, co ještě před pár měsíci uměly jen ty nejdražší americké systémy, a dělá to o desítky procent levněji. A hlavně: dá se stáhnout a spustit na vlastním serveru. Nemusíte si ho pronajímat od nikoho z Ameriky.

https://www.hrot24.cz/clanek/kimi-k3-op ... dely-HSJYm

[Lord]

Jo a chcete používat čínský modely ?
UŽ VIDÍM, JAK TO BUDE EU ZAKAZOVAT, PROTOŽE TO JE FUJ.

[Koba]

Jo a chcete používat čínský modely ?
UŽ VIDÍM, JAK TO BUDE EU ZAKAZOVAT, PROTOŽE TO JE FUJ.

Nepřeháněj. Vzhledem k tomu, co zase rozjíždí Trump s evropskou pokutou pro Google, tak budou evropské firmy ještě rády nakupovat z Číny. Jako nakupují čínská auta, FV panely, telefony, routery atd. atd. Nikdo netvrdí, že je EU pustí do kritické infrastruktury. Ale vysvětli mi, proč by měl třeba dopravce s 50 kamióny pronajímat SW v USA - který může pošahanec kdykoliv zablokovat, jak už to předvedl a každý měsíc tvrdě solit, když si to jednou - levně - koupí a jeho ajťáci to zvládnou obsluhovat bez ponížených žádostí do Silicon Valey?

[Lord]

Uvidíme, ono do kritické se to může dostat i z civilní sféry. Zase to jsou ty kličky a triky někdy.
Ideální kdyby měla Evropa svoje řešení na úrovni, jen v tom je pozadu.

Přechod k čínským alternativám by znamenal jen výměnu jednoho geopolitického rizika za jiné, navíc s otazníky ohledně ochrany dat podle evropských, přísných pravidel GDPR.
Ale stejně tajně šmírujou... a bude i Evropa kvůli údajné ochraně dětí.

[Heiss]

Přechod k čínským alternativám by znamenal jen výměnu jednoho geopolitického rizika za jiné, navíc s otazníky ohledně ochrany dat podle evropských, přísných pravidel GDPR.

Pokud si to budou hostovat u sebe na serverech, tak by to neměl být problém – data budou uložena v EU. Potíž možná bude s cenou vybavení a energií; tak velká datová centra jako v USA u nás patrně nevzniknou. Druhá věc je, že pokud to Číňané budou licencovat jako open-source, tak si Evropané budou moci Kimi hostovat u sebe doma bez omezení. Na papíře se vlk nažere a koza zůstane celá, protože takhle získáme přístup k výkonnému modelu a když odhlédneme od toho, že nevyřešíme naši technologickou závislost, všichni budou spokojení.

Čína právě smazala náskok Ameriky. A vaše firma to brzy pocítí na výplatní pásce

Podobné titulky se vyrojily, když vydali DeepSeek.
Což nemá být hanění nového modelu, jen pousmání se nad tím jak fungují naše média.

[Lord]

Tohle mi píše...
Riziko cloudu: Použití externích API (např. Kimi API Platform) vyžaduje opatrnost ohledně toku dat mimo Evropu.

Tedy možná zadní vrátka, na to se vždy vymlouvají, i když to pravda třeba není.

[Koba]

Vědecký důkaz. Typickým poznávacím rysem prózy psané chatbotem je to, že je hloupá a špatně napsaná. Není to jen názor luddity, ale teď už i vědecky ověřený fakt. Ve výzkumném týmu navíc seděli i zástupci Google, námitky podjatosti tedy nelze vznášet. (404 Media)

https://www.404media.co/ai-fiction-is-e ... rch-finds/

[Barrymore]

Vědecký důkaz. Typickým poznávacím rysem prózy psané chatbotem je to, že je hloupá a špatně napsaná. Není to jen názor luddity, ale teď už i vědecky ověřený fakt. Ve výzkumném týmu navíc seděli i zástupci Google, námitky podjatosti tedy nelze vznášet. (404 Media)

https://www.404media.co/ai-fiction-is-e ... rch-finds/

Jestli to nebude tím, že trénovací dataset je reprezentativním vzorkem dostupné prózy v elektronické podobě, která je hloupá a špatně napsaná.

[Lord]

AI funguje jako odhadce dalšího slova v pořadí. Vybírá fráze, které se objevují nejčastěji, což vede k nudnému klišé a předvídatelným zápletkám.
Jinak je ale možné, že to vývojáři záměrně ošetřili, aby přímo nekopírovali nějaká díla, kde by to bylo jasný, odkud bere inspiraci.
Filtry záměrně oslabují schopnost AI napodobovat konkrétní autory, což z textu často maže osobitý styl.
Za další když by vzala vynikající autory a zprůměrovala je, tak z toho nevznikne nic dobrého.

Hromadná žaloba Authors Guild (George R. R. Martin, John Grisham a další): Spisovatelé zažalovali OpenAI za to, že ChatGPT nelegálně trénoval na jejich knihách.
Žaloba poukázala na to, že AI dokáže vygenerovat detailní osnovu pokračování Hry o trůny.

Takže potom se nemusíte ničemu divit, když tohle víte. Zatímco u jiných oborů to jakoby nevadí.
Ai okopírovala různé grafické styly a jiné, ale tam se to prostě hůře dokazuje, kdo byl autor.


Za další, četli jste něco třeba od Dana Browna?

Já třeba Tajemství všech tajemství. A o čem to je? O jakoby nějaké provázanosti přes celé dílo, i když to souvislosti jakoby nemá.
Tohle logika Ai moc nepobírá Ale právě jakoby ta nepředvídatelnost tomu zřejmě dává ten šmrnc.
Autor často propojuje historii, umění a vědu, protože sám o tom mnohé nastudoval. Pak do je zasazeno do kulis Prahy, to tomu dává jakoby reálný základ, ale stejně tam je kus mystiky.

Na druhou stranu to někomu může přijít příliš rozvláčné a občas to láme přes sílu, aby z toho vznikl příběh.
Nicméně to jsou možná právě ty atributy "nepředvídatelnosti".

Přesto v předchozích dílech autora jsou miliardy, když bylo něco zfilmováno. Např. Šifra mistra Leonarda (2006) a další jo.
Nehledě na stovky miliónu prodaných výtisku po světě.

Generativní modely mají tendenci psát texty, které jsou sice informačně bohaté, ale stylisticky ploché, opakující klišé – tedy AI slop.

Když recenzenti hodnotili novější Brownovu tvorbu, někteří i psali, že jeho styl je občas horší a nucenější než fikce vygenerovaná umělou inteligencí.
A to když se zpětně hodnotí třeba jeho dílo ORIGIN.

Všechno, co nyní děláme, je digitalizováno – všechny naše knihy, všechny naše podcasty, všechna naše malá videa na YouTube, naše e-maily.
Je tedy možné, aby počítač to všechno četl a učil se, jak lidé interagují a jak se rozhodují.

A otázkou je, zda je naše kultura nejlepším vzorem pro nové vědomí a nový intelekt?
Pokud se naučí být jako my, naučí se hodně soucitu, ale mohla by se také naučit hodně egocentrickému zlu.

NĚCO VŠAK PŘEDPOVĚDĚL relativně dobře.

PŘESTO AI stále chybí lidská schopnost psát „mezi řádky“, pracovat s jemnou ironií nebo záměrnou stylistikou, tak aby to dávala jakoby nějaký hlubší smysl.
Protože Ai stále postrádá osobní prožitek a skutečné emoce člověka. Ano, dokáže to nasimulovat, ale časem se zacyklí a vznikne z toho Ai slop.

[Koba]

No jo, ale to se pořád bavíme o "kecací" AI, nebo rozšířených vyhledávačích a asistentech a produkci vtipných a svlíkacích obrázků - ty se opravdu učí z digitalizované literatury, zapleveleného internetu, sociálních sítí a časem kruhem samy ze sebe - jako ty zdarma ChatGPT, Grok, Claude a pod.

Ale specializované systémy pro řešení matematických úloh, psaní a kontrolu SW, správu obrovských objemů dat, optimalizaci sítí a řízení rojů dronů a CCA to je jiné kafe. Ty se na Facebooku a OnlyFans neučily. Proč by jinak pošahanec zakázal distribuci Fable 5 a Mythos 5? Určitě ne proto, že umí napsat povídku nebo svléknout foto sousedky!

[bat]

No jsem zvědavý, až si pustím Kimi 3 (nebo podobný) za **pár** let doma nebo ve firmě jak predikuje článek Celá ta úvaha mi přijde scestná. Díval se autor článku jaký HW potřebuje takový model dnes? Já ano. Pokud máte 50 Mio Kč, tak pak si to můžete postavit soukromé datacentrum a na jeden server zapomeňte. A to bude platit i za 2-4 roky akorát cena bude třeba třetinová - pořád moc peněz.
Je zřejmé, že generativní modely jsou žrouti paměti a špičkové vždycky budou. Firmy si je budou pronajímat. Normálnímu člověku stačí malé modely, které budou a jsou i lokální např. pokud máte nějaké novější vozítko s AI, tak se jí zeptejte jaký model používá.
Jinak buďme rádi za Čínu, že do toho šlape. Genetika, AI, jádro, robotika.

[Lord]

A když to výkonné datové centrum nemáš, tak můžeš KIMI hostovat někde na cloudu v zahraničí.
S tím jsou spojená ta rizika.


Koba: Jsou obory exaktní a jsou vědy společenské. Mezitím je obrovský rozdíl.
Programování má svojí logiku, když napíšete špatně program, tak prostě fungovat nebude
Ve společenských vědách to můžete okecat.

Budu se opakovat, ale už jsem psal, že na něco je Ai dobrý a lepší a na něco prostě není.
Logika a matematika v počítači se nedají obejít slovním vysvětlením.
To se musí chápat a s tím má většina lidí problémy, než se něco našprtat nebo reagovat na objekty první signální.
Logika nepustí a neodpustí žádnou nekonzistenci. Zatímco někteří "logiku" vlastně odmítají třeba ženské pohlaví.
U nich to zahrnuje empatii, kontext situace, mezilidské vztahy a intuici, což jsou faktory taky svým způsobem důležité.

Ale k čemu je AI SLOP - POKUD nemá reálnou vazbu na svět

Ve finále to je stejně všechno o přežití a rozmnožení. A ta zvídavost je taky daná kvůli adaptaci na proměnlivé prostředí

Koba je třeba rozlišovat, což jsi vlastně napsal, ale neměli bychom se tomu divit, pokud víme, jak Ai modely nyní fungují.
Prostě předvídat hrozby a nacházet nové zdroje v měnícím se prostředí o tom to furt je.

Umělá inteligence funguje na principech, které lidské chování v mnoha ohledech zrcadlí, ale zároveň se zásadně liší v absenci těchto evolučních hnacích motorů.
Velké jazykové modely (LLM) nemají vlastní pud sebezáchovy, emoce ani potřebu se rozmnožovat. Leda to dokáží simulovat.
Když AI reaguje zvídavě, empaticky nebo logicky, nevede ji k tomu vnitřní motivace, ale výpočet nejvhodnějšího textového pokračování podle statistických vzorců.
Bez biologického těla, hormonů (jako je dopamin pro radost ze zkoumání nebo adrenalin pro strach) a evolučního tlaku na přežití je jakýkoli projev AI jen chladnou kalkulací.
AI je tedy v podstatě dokonalý herec, který dokáže zahrát jak logického programátora, tak emotivního filozofa, protože má načtené scénáře celého lidstva.

Přitom něco jí jde lépe a něco hůře, to je celý vtip. Záleží jak kvalitní data dostane nebo na co má nastavené účelové filtry.


V čem exceluje: Oblasti s obrovským množstvím jasných dat (např. syntaxe programovacích jazyků, gramatika, standardní právní smlouvy).
Zde má AI dokonalou paměť a skvěle hledá vzorce.

V čem selhává: Situace, kde jsou data vzácná, protichůdná nebo vyžadují aktuální kontext z reálného světa.
Pokud AI dostane „šrot“ (nekvalitní, zaujatá nebo lživá data), vygeneruje zase jen pomeje pro prasata.



Některé modely mohly dostal sice kvalitní literaturu, ale také mají obrovskou porci dat z diskusních fór, bulváru a internetového balastu – tedy digitální pomeje

Zatím se ukazuje, že bez přísné lidské editace, exaktní logiky a kvalitního výběru informací produkuje AI jen hromadu zbytečného textového a vizuálního balastu.

Každý se Ai časem generačně naučí využívat podle libosti, a většina lidí pochopitelně na kraviny.

Většina mileniálů využívá AI při práci každý den, ukazuje průzkum Deloittu
https://legalweb.cz/vetsina-milenialu-v ... ittu-8770/

V českém pracovním prostředí využívá umělou inteligenci při každodenní práci 66 procent příslušníků generace Z a 62 procent mileniálů.
V práci ji používají hlavně z vlastní iniciativy, ne díky podpoře zaměstnavatelů. Většina z nich věří, že jim pomáhá zlepšovat pracovní výkon i profesní rozvoj.


K vyhledávání informací raději AI než Google

Ale zrovna tohle bez kontroly nebo ve věcech, které pro ní nejsou ideální - dobrý není. Ale nic s tím asi neuděláme.

Tři čtvrtiny respondentů z obou generací, kteří se domnívají, že AI ovlivňuje jejich život pozitivně, uvedli, že se tak děje jak v práci, tak v osobním životě. Právě nejmladší generace je s AI nejvíc sžitá.

To je realita

Dotazovaní Gen Z nejčastěji vnímají, že je pro ně často rychlejší zvládnout práci bez využití AI (25 %). Dále uvedli, že nemají dostatek znalostí a zkušeností k jejímu využívání (24 %), chybí jim čas nebo nevnímají, že by jim pomohla řešit specifické potřeby jejich práce (23 %).

Přeci jen má někdo ještě trošku vlastního rozumu...

Uděláme průzkum a jede se dál, co jinýho asi Jede to jako parní válec.

[pjaro77]

Dám sem pár informácií z neurovedy. U novorodencov sa zistilo, že majú podobný "chaos" vln v mozgu ako dospelí na LSD.
Vlny nie sú dobre oddelené, mozog novorodenca sa ešte musí naučiť zaostriť vedomie na zmysly.
Do tej doby je jeho vnímanie zmes toho, čo prichádza od zmyslov a vlastnej kreativity nervovej siete. Takže novorodenec je ako na drogovom výlete.
Fantázie mozgová sieť sčasti tvorí zo spomienok, najviac sa to prejavuje v snoch. Keďže novorodenec spomienky ešte takmer nemá, netuším na základe čoho generuje fantázie, asi náhodne.

AI jazykových modelov funguje podobne a, nemá však korekciu vlastnými zmyslami. Môže však porovnať to, čo vygenerovala s databázou z ktorej trénovala či to cca sedí.

Pojednanie o tomto probléme:
https://sciencex.com/news/2026-05-brain ... rippy.html

[pjaro77]

Ako odstrániť halucinácie ? Jeden nápad by tu bol.
https://theconversation.com/neurosymbol ... ing-257752
Neurosymbolická AI kombinuje prediktívne učenie neurónových sietí s učením AI sérii formálnych pravidiel, ktoré sa ľudia naučia, aby boli schopní spoľahlivejšie uvažovať. Patria sem logické pravidlá, ako napríklad „ak a, potom b“, ako napríklad „ak prší, všetko vonku je normálne mokré“; matematické pravidlá, ako napríklad „ak a = b a b = c, potom a = c“; a dohodnuté významy vecí, ako sú slová, diagramy a symboly. Niektoré z nich budú vložené priamo do systému AI, zatiaľ čo iné si odvodí sám analýzou svojich tréningových údajov a vykonaním „extrakcie znalostí“.
To by malo vytvoriť AI, ktorá nikdy nebude halucinovať a bude sa učiť rýchlejšie a inteligentnejšie usporiadaním svojich vedomostí do jasných, opakovane použiteľných častí. Napríklad, ak má AI pravidlo o tom, že veci sú mokré vonku, keď prší, nie je potrebné, aby uchovávala všetky príklady vecí, ktoré môžu byť vonku mokré – pravidlo možno použiť na akýkoľvek nový objekt, dokonca aj taký, ktorý ešte nikdy nevidel.

[bat]

Teď jsem viděl reklamu (nebudu konkrétní) a model KIMI 3 už nabízí komerční provozovatel AI datacentra v EU.
O modelu se uvádí, že je model srovnatelný s nejlepšími od Anthropicu nebo Open AI a mnohem levnější. Možná si vzpomínáte jak US administrativa tyto špičkové modely zakázala, pak povolila pro US atd. Jenomže KIMI 3 je open source, tak si ho může provozovat kdo chce (a má peníze) a nemusí se doprošovat US.

US s těmi zákazy, příkazy a cly narazí např. zakázali dovoz humanoidních robotů z Číny. Tam je to hodně populární, ačkoliv to je spíš pro zábavu (zatím!). To je budoucnost, která nahradí vojáky, zaměstnance, lidskou obsluhu, domací sluhy... zkrátka kdo tuto technologii zaspí bude tahat za kratší konec. Je to vlastně zábavné jak se pokrok v IT zrychluje - nekompromisně bez ohledu na různé unie či velmoci.

[Koba]

Čína zakročila proti AI partnerům. Obává se osamělosti i poklesu porodnosti
Virtuální přítelkyně, digitální partneři i AI milenci narazili v Číně na tvrdou regulaci. Nová pravidla omezují funkce podporující citovou závislost a přiměla některé z největších technologických firem své služby ukončit. Nová pravidla, která vstoupila v platnost 15. července, zakazují technologickým firmám nabízet nezletilým AI společníky a zároveň výrazně omezují funkce, jež mohou u uživatelů vytvářet dlouhodobou citovou závislost. Nová opatření jsou součástí širší snahy Pekingu řešit demografickou krizi a zabránit tomu, aby virtuální vztahy nahrazovaly ty skutečné.

Mladí Číňani prostě neš***jí. Pro zbytek světa dobrá zpráva

https://www.hrot24.cz/clanek/cina-ai-pa ... nost-HpkDv