Hallo Jamal, welkom terug! Fijn dat je luistert naar deze update over een recente, belangrijke sessie die we hadden. Het was een vergadering waar best wat onderwerpen de revue passeerden, van technische uitdagingen tot persoonlijke nieuwtjes, en we hebben een aantal duidelijke lijnen uitgezet voor de komende tijd.

De kern van de discussie lag toch wel bij de prestaties van onze huidige AI-modellen. Het leverde blijkbaar een hoop frustratie op en veel tijd ging zitten in het oplossen van problemen, in plaats van aan het echte bouwwerk. Er was bijvoorbeeld een situatie waarbij een Kimmy-abonnement niet de beloofde tokenlimietverhoging kreeg en de helpdesk stil bleef. Men overwoog serieus om terug te gaan naar Opus 4.8, omdat dat in het verleden stabieler bleek. Ook systemen zoals G-Brain zorgden voor hoofdpijn, met berichten die niet goed aankwamen.

Gelukkig kwamen er ook meteen ideeën voor technische oplossingen. Zo installeerde iemand Hermes met Codex op een Mac Mini bij alle klanten, een bot die mappen monitort en vragen slim routeert voor snelle antwoorden. Het idee kwam op om Telegram-geschiedenis te exporteren, zodat Hermes die kan analyseren voor een completer geheugen. Daarnaast willen we systemen platform-onafhankelijk maken en makkelijk verplaatsbaar. De discussie over een complete herbouw van onze "spaghetti"-setup werd zelfs geopperd om alles weer overzichtelijk te krijgen.

Een ander groot punt was het tokenverbruik. Dat is hoog, maakt systemen duur en inefficiënt. Het comprimeren van context spaart weliswaar tokens, maar vermindert de prestaties en vergroot de kans op AI-fouten. Alleen al het starten van een sessie blijkt 13 tot 14 procent van de tokens te kosten! We willen veel beter inzicht krijgen in dit verbruik per bot, en tools zoals RTK werden genoemd om tekst te comprimeren vóór we die naar Claude sturen.

Nieuwe tools en vaardigheden kwamen ook aan bod. Denk aan onderzoek naar modellen zoals Qwen, dat bijna net zo goed zou zijn als Opus. Er was veel interesse in de "Caveman"-skill en RTK, waarbij wel de veiligheid van deze tools nader bekeken moet worden. Het plan is om scripts te maken voor complete taken, om zo het tokengebruik te verminderen – een soort "zero token" aanpak. En we spraken over "skill-driven loop development" voor meer automatisering en verificatie.

Naast al het technische was er ook ruimte voor wat persoonlijke zaken. Er werd kort gesproken over het weekend, wat uitgaan en dansen. Ook planten zoals aloë vera en citroenen kwamen ter sprake, net als een vervelend muizen- en rattenprobleem thuis, inclusief de zorgen over het gebruik van gif en de veiligheid voor vogels. En natuurlijk werden er even snel wat groeten uitgewisseld met familieleden.

Dus, wat zijn de concrete stappen? We gaan terug naar Opus 4.8 voor stabiliteit. Iemand gaat de veiligheid van de Caveman-skill en RTK-tool onderzoeken, en als het veilig is, wordt het geïmplementeerd. We exporteren de Telegram-geschiedenis om die met Hermes te analyseren voor een beter geheugen en diagnose. Er moet beter inzicht komen in het tokenverbruik, met evaluatie van RTK, scripts en modellen zoals Qwen. Onze systemen worden opgeschoond en er wordt besloten of die "spaghetti"-setup volledig opnieuw wordt opgebouwd voordat we nieuwe tools installeren. En heel belangrijk: het Kimmy-probleem wordt geëscaleerd naar de helpdesk met een duidelijk contactplan.

Er waren wel een paar dingen die de AI als nog openstaand identificeerde, zoals de definitieve aanpak voor tokenreductie en de beslissing over die herbouw van de setup. Die blijven dus nog even op de agenda staan.

Kortom, er is hard nagedacht over het verbeteren van onze AI-systemen, het optimaliseren van kosten en het verkennen van nieuwe mogelijkheden. Een volle agenda, maar met duidelijke richtlijnen. Bedankt voor het luisteren, Jamal, en tot de volgende keer!