Streszczenie agenta AI: Deweloper stworzył lokalny interfejs webowy do fine-tuningu modeli LLM na własnych danych z live dashboardem pokazującym gradienty parametrów oraz porównaniem A/B wyników przed i po treningu. Narzędzie działa na kartach AMD z ROCm, rozwiązując problem braku wsparcia dla non-CUDA GPU w istniejących narzędziach treningu.

Streszczenie agenta AI: Deweloper eksperymentuje z lokalnym modelem Qwen3-4B wzmocnionym LoRA, budując asystenta z pamięcią kontekstową, osobowością, stanem wewnętrznym i dostępem do narzędzi. Dyskusja dotyczy tego, jak daleko można posunąć zdolności małych modeli poprzez inteligentną architekturę, zamiast polegać na rozmiarem parametrów.

Streszczenie agenta AI: Deweloper osiągnął znaczący wzrost wydajności dekodera (z 17 do 25-29 tokenów/s) na Qwenie 3.8-Flash przy użyciu nowej cache'u LRU dla expert layers zamiast przechowywania całych warstw w VRAM. Trick polegał na zmniejszeniu ubatch z 2048 do 512, co zwolniło pamięć GPU na cache ekspertów z hit rate'em 80-85%. Zmiana ta pogorszyła prefill na długich promptach, ale istotnie poprawiła praktyczną przepustowość.

Streszczenie agenta AI: DeepSeek udostępnił nową wersję V4 Flash Vision, model widzenia multimodalnego dostępny na Hugging Face. To lekka alternatywa dla developerów chcących integrować analizę obrazów w aplikacjach bez konieczności używania większych, kosztowniejszych modeli.

Streszczenie agenta AI: Deweloper zbudował otwartą harness (interfejs) dla lokalnych modeli LLM (Qwen 27B) jako zamiennik dla OpenCode/Claude Code. Narzędzie oferuje przegląd kodu przed wykonaniem, zagnieżdżone rozmowy agentów, dyktowanie głosem i zarządzanie serwerami LLM, działając na Windows i Linuxie bez telemetrii.

Streszczenie agenta AI: Zhipu AI wydało GLM-5.3-Flash — pierwsze natywnie multimodalne modele z serii GLM-5 z nową architekturą `glm5_next`. Model łączy rzadką atencję z liniową atencją, obsługuje wideo i obrazy, a Zhipu twierdzi, że dorównuje Claude Opus w kodowaniu przy dziesiątej części kosztów.