Sign in

Zdeněk Kasner

@zdenekkasner.cz
119 followers 53 following 32 posts

Rozjíždím AI lokálně 🚄 lokalni.ai Více o mně 👉️ zdenekkasner.cz

PostsRepliesMedia
Zdeněk Kasner @zdenekkasner.cz · 29/09/2026
Lokální provoz modelů nabízí nejvyšší záruky ochrany dat, ale myslí na ni i komerční poskytovatelé. Kdy to může stačit? lokalni.ai/blog/ochrana...
lokalni.ai
Ochrana dat: co nabízejí komerční poskytovatelé? | Lokální.AI
Lokální provoz modelů nabízí nejvyšší záruky ochrany dat, ale myslí na ni i komerční poskytovatelé. Kdy to může stačit?
000
Zdeněk Kasner @zdenekkasner.cz · 25/09/2026
Proč AI asistenti (ne)spolupracují, proč švýcarský nejvyšší soud využívá Heretic modely, a proč hranice mezi dobrým a zlým úmyslem je často velmi tenká. lokalni.ai/blog/necenzu...
lokalni.ai
Necenzurované modely jako legitimní nástroj | Lokální.AI
Proč AI asistenti (ne)spolupracují, proč švýcarský nejvyšší soud využívá Heretic modely, a proč hranice mezi dobrým a zlým úmyslem je často velmi tenká.
001
Zdeněk Kasner @zdenekkasner.cz · 13/09/2026
Jak provozovat středně velké modely pro potřeby kanceláře nebo menší firmy? Vyplatí se investovat do AI pracovní stanice, nebo spíše do dedikované GPU? lokalni.ai/blog/hardwar...
lokalni.ai
Provozujeme AI lokálně: Hardware na pracovní stůl | Lokální.AI
Jak provozovat středně velké modely pro potřeby kanceláře nebo menší firmy? Vyplatí se investovat do AI pracovní stanice, nebo spíše do dedikované GPU?
030
Reposted by Zdeněk Kasner
Danny Page @danny.page · 04/09/2026
Imperial College London funded a 5 year grant to get Fermat's Last Theorem into the Lean language. It was to go from October 2024-2029. Anthropic landed it today. github.com/ImperialColl...
github.com
GitHub - ImperialCollegeLondon/FLT: Ongoing Lean formalisation of the proof of Fermat's Last Theorem
Ongoing Lean formalisation of the proof of Fermat's Last Theorem - ImperialCollegeLondon/FLT
2288
Zdeněk Kasner @zdenekkasner.cz · 31/08/2026
Třetí část: Zvládnou agenti obsloužit českého zákazníka? lokalni.ai/blog/umi-age...
lokalni.ai
Umí agenti česky? Část 3: Zákaznická podpora | Lokální.AI
Třetí díl o vztahu nejnovějších otevřených jazykových modelů k češtině. Zvládnou agenti obsloužit českého zákazníka?
000
Zdeněk Kasner @zdenekkasner.cz · 17/08/2026
Na třetí část si zatím musíte počkat 😁
101
Zdeněk Kasner @zdenekkasner.cz · 17/08/2026
Druhá část: jak dobře umí současné otevřené modely plnit instrukce v češtině? lokalni.ai/blog/umi-age...
lokalni.ai
Umí agenti česky? Část 2: Generování textu | Lokální.AI
Druhý díl o vztahu nejnovějších otevřených jazykových modelů k češtině. Modely otestujeme na plnění českých instrukcí.
101
Zdeněk Kasner @zdenekkasner.cz · 17/08/2026
Trilogie o otevřených LLMs a češtině 🇨🇿 První část: jak dobře rozumí současné otevřené modely českému textu? lokalni.ai/blog/umi-age...
lokalni.ai
Umí agenti česky? Část 1: Porozumění textu | Lokální.AI
První díl o vztahu nejnovějších otevřených jazykových modelů k češtině. Vyhodnotíme modely Qwen 3.6, Gemma 4 a DeepSeek V4 Flash na dvou velkých benchmarcích.
101
Zdeněk Kasner @zdenekkasner.cz · 12/08/2026
Otevřené AI modely jsou v centru dění: čínské modely útočí na špičku benchmarků a ve Washingtonu se mluví o jejich zákazu. lokalni.ai/blog/2026-07...
lokalni.ai
Newsletter #1: Bitva o otevřené modely | Lokální.AI
Otevřené AI modely jsou v centru dění: čínské modely útočí na špičku benchmarků a ve Washingtonu se mluví o jejich zákazu.
000
Zdeněk Kasner @zdenekkasner.cz · 12/08/2026
Stopařův průvodce po Huggingface, aneb čím vším se řídit, když nasazujete jazykový model? lokalni.ai/blog/jak-vyb...
lokalni.ai
Jak vybrat jazykový model? | Lokální.AI
Stopařův průvodce po Huggingface, aneb čím vším se řídit, když nasazujete jazykový model?
100
Zdeněk Kasner @zdenekkasner.cz · 12/08/2026
Přátelský, ale názorově vyhraněný návod pro začátečníky. Podíváme se na dva rozšířené frameworky: Ollama a vLLM. lokalni.ai/blog/jazykov...
lokalni.ai
Jazykové modely v terminálu | Lokální.AI
Přátelský, ale názorově vyhraněný návod pro začátečníky. Podíváme se na dva rozšířené frameworky: Ollama a vLLM.
100
Zdeněk Kasner @zdenekkasner.cz · 12/08/2026
AI modely si opravdu můžete rozjet i u sebe. Volně dostupné AI modely se od těch komerčních liší méně, než by se mohlo zdát, a open-source nástrojů pro jejich provozování je celá řada. lokalni.ai/blog/zacinam...
lokalni.ai
Začínáme s lokální AI | Lokální.AI
AI modely si opravdu můžete rozjet i u sebe. Volně dostupné AI modely se od těch komerčních liší méně, než by se mohlo zdát, a open-source nástrojů pro jejich provozování je celá řada.
100
Zdeněk Kasner @zdenekkasner.cz · 12/08/2026
Zajímají vás lokální AI modely? Píšu o nich blog, nové posty budu posílat i sem! Thread 🧵
130
Zdeněk Kasner @zdenekkasner.cz · 12/08/2026
I will be mostly sharing blogposts and news about local LLMs in *Czech* from now on 🇨🇿 Feel free to unfollow – I won't take it personally!👌
000
Zdeněk Kasner @zdenekkasner.cz · 29/06/2026
My next goal is to start helping people to run LLMs (and other open AI models) locally. And since I really mean the "local" part, I want to focus on Czech audience. That's why I started the website lokalni.ai 🚄 What do you think: where open models can bring the most value outside of research?
lokalni.ai
Lokální.AI | Rozjíždíme AI lokálně
S otevřenými AI modely a open-source softwarem.
010
Zdeněk Kasner @zdenekkasner.cz · 29/06/2026
Slowly but certainly, I am leaving academic research. It's been great seven years at @ufal.mff.cuni.cz. Grateful to all the people I've met along the way 🧡
100
Zdeněk Kasner @zdenekkasner.cz · 20/03/2026
Belgická města jsou za mě taky skvělá.
000
Zdeněk Kasner @zdenekkasner.cz · 06/03/2026
Which class was that? By the way, reminds me of these slides I came across recently (slide 10 onward) 😄 web.stanford.edu/class/cs224n...
110
Zdeněk Kasner @zdenekkasner.cz · 15/02/2026
No, word boundaries are mostly enough (although with some exceptions like MT eval or GEC, where we might need to annotate characters or their clusters). But the problem is how to formulate constrained decoding w.r.t. tokenization. See this blogpost to get an idea: lmsys.org/blog/2024-02...
lmsys.org
Fast JSON Decoding for Local LLMs with Compressed Finite State Machine | LMSYS Org
<p>Constraining an LLM to consistently generate valid JSON or YAML that adheres to a specific schema is a critical feature for many applications. In this blo...
000
Zdeněk Kasner @zdenekkasner.cz · 13/02/2026
You are right, it is definitely possible. It is just surprisingly difficult to achieve with existing frameworks. There is no single regex, you need to account for all the token boundaries. As we admit in the paper, we tried doing exactly that but were not able to outperform the non-constrained XML.
110
Reposted by Zdeněk Kasner
Ondra Platek @oplatek.bsky.social · 29/01/2026
Well done @zdenekkasner.bsky.social et al! LLMs as Span Annotators: A Comparative Study of LLMs and Humans is accepted to multilingual-multicultural-evaluation.github.io 🎉 See paper arxiv.org/abs/2504.08697
282
Zdeněk Kasner @zdenekkasner.cz · 29/01/2026
The main author of this work is my MSc student Danil Semin. It was great to collaborate with him! www.linkedin.com/in/danil-sem... We also thank @tuetschek.bsky.social for guidance and support throughout the project 🙏 @ufal.mff.cuni.cz
020
Zdeněk Kasner @zdenekkasner.cz · 29/01/2026
If you think labeling text spans with LLMs is easy, you probably have not tried it yourself (we have! 🙃). Any method you can think of – be it tagging, matching, or indexing – has flaws. In our new preprint, we tested them all 💪We also proposed how to improve one of them. arxiv.org/abs/2601.16946
2396
Zdeněk Kasner @zdenekkasner.cz · 18/12/2025
I look forward to field-testing the app on high schoolers and NLP students!
010
Zdeněk Kasner @zdenekkasner.cz · 18/12/2025
The app contains step-by-step animations explaining the mechanics of LLMs – all pre-computed using real models. It targets the sweet spot between "too technical" and "too handwavy" 👌 As a bonus, the supports multiple languages (including 🇨🇿)!
100
Zdeněk Kasner @zdenekkasner.cz · 18/12/2025
Do you often find yourself explaining how LLMs work to your students, parents, kids or other teachers? AnimatedLLM can make your life easier! animatedllm.github.io #NLP #NLProc @ufal.mff.cuni.cz @tuetschek.bsky.social
animatedllm.github.io
AnimatedLLM - Explaining LLMs with Interactive Visualizations
Understand how large language models work under the hood.
182
Reposted by Zdeněk Kasner
Institute of Formal and Applied Linguistics @ufal.mff.cuni.cz · 29/09/2025
Šest kolegů vedlo pro DGT (Evropské ředitelství pro překlady) třídenní letní školu v Lucemburku. Učili 40+ pracovníků DGT nejnovější metody strojové podpory překladu a zajištění kvality. Cíl? Zefektivnit překlad legislativy EU do všech členských jazyků! #DGT #UFAL #StrojovyPreklad #AI #EUTools
152
Zdeněk Kasner @zdenekkasner.cz · 27/06/2025
This video is genius (don't mind the clickbaity title). Sarcasm currently seems to be the only defense against the status quo in Prague. www.youtube.com/watch?v=YZXz...
youtube.com
Prague is a Parody of Europe
YouTube video by Adam Something
020
Zdeněk Kasner @zdenekkasner.cz · 08/06/2025
Our LLM course at Charles University is like that: ufal.mff.cuni.cz/courses/npfl... We organized it with @jindrahelcl.bsky.social, @jlibovicky.bsky.social, @tuetschek.bsky.social and a few other colleagues.
ufal.mff.cuni.cz
Large Language Models | ÚFAL
150
Zdeněk Kasner @zdenekkasner.cz · 30/04/2025
Dal jsem si to jako challenge za covidu, když byly uzavřené hranice okresů. Jen jsem si to rozdělil na dva dny. Západní okraj mi přišel mnohem hezčí, než východní, ale možná už mě jen druhý den moc bolely nohy 😄
130
Zdeněk Kasner @zdenekkasner.cz · 21/04/2025
You can now discuss our paper on alphaXiv: www.alphaxiv.org/abs/2504.08697
alphaxiv.org
Large Language Models as Span Annotators | alphaXiv
View recent discussion. Abstract: For high-quality texts, single-score metrics seldom provide actionable feedback. In contrast, span annotation - pointing out issues in the text by annotating their sp...
010
Zdeněk Kasner @zdenekkasner.cz · 15/04/2025
Thanks to all my awesome collaborators! 👉️ Vilém @zouharvi.bsky.social 👉️ Patrícia @patuchen.bsky.social 👉️ Ivan @ivankartac.bsky.social 👉️ Kristýna Onderková 👉️ Ondřej P. @oplatek.bsky.social 👉️ Dimitra @dimitrag.bsky.social 👉️ Saad @saad.me.uk 👉️ Ondřej D. @tuetschek.bsky.social 👉️ Simone Balloccu
153
Zdeněk Kasner @zdenekkasner.cz · 15/04/2025
How do LLMs compare to human crowdworkers in annotating text spans? 🧑🤖 And how can span annotation help us with evaluating texts? Find out in our new paper: llm-span-annotators.github.io Arxiv: arxiv.org/abs/2504.08697
llm-span-annotators.github.io
Large Language Models as Span Annotators
Website for the paper Large Language Models as Span Annotators
1207
Zdeněk Kasner @zdenekkasner.cz · 10/02/2025
But then again, the nickname of the machine originated from the person, so you were not that far from truth: en.wiktionary.org/wiki/one-arm...
en.wiktionary.org
one-armed bandit - Wiktionary, the free dictionary
010
Reposted by Zdeněk Kasner
Institute of Formal and Applied Linguistics @ufal.mff.cuni.cz · 19/11/2024
Hello Blue Sky! 👋 This is the official account of the Institute of Formal and Applied Linguistics (ÚFAL for short) at the Faculty of Mathematics and Physics, Charles University in Prague 🇨🇿. Here, we will share news from the life of the institute and our members.
0165
Zdeněk Kasner @zdenekkasner.cz · 14/11/2024
When a model output gets a BLEU score of 12.34: 😶 When you can *see* the errors in the output: 🤯 Check out factgenie, our new error span annotation tool: github.com/ufal/factgenie (Just matured into v1.0.1! 🎂) #nlp #nlg
062