Welk model moet je Object Pascal-bewerkingen aansturen

Arraydeck wordt niet geleverd met één vaste brain. Je koppelt een cloud-AI-provider via een standaard API-endpoint, draait een model op je eigen pc of gebruikt het ingebouwde model, en je kunt de keuze altijd wijzigen als een taak om iets anders vraagt.

Drie manieren om een model te koppelen

Een cloud-AI-provider

Een cloud-AI-provider bereik je via een standaard API-endpoint dat je invoert in de app, samen met je API-sleutel. Dit is geschikt voor grote eenheden, lange refactors en taken waarbij een groter model beter redeneert. Het privacygevolg is duidelijk. De prompt gaat naar de provider, inclusief tekst uit elk bestand dat de agent leest, en wordt verwerkt onder de voorwaarden van die provider. Je API-sleutel blijft op je pc, en geheimen in uitvoer van tools worden geredigeerd voordat ze het model bereiken. De facturatie voor de dienst van de provider is tussen jou en de provider.

Een model dat lokaal op je pc draait

Een model dat lokaal op je pc draait, beantwoordt verzoeken van je eigen machine. Dit is geschikt voor privécode, snelle kleine bewerkingen en werk waarbij niets de computer mag verlaten. Met een lokaal model verlaat niets de machine, en chats, werkmap en API-sleutels blijven ook op de pc. De beperking is de hardware. Een klein lokaal model heeft een kleiner contextvenster en kan kortere eenheden of duidelijker instructies nodig hebben, dus lees elke diff met extra zorg.

Het ingebouwde model

Het ingebouwde model is direct bruikbaar zonder een eigen endpoint. Kies dit wanneer je Arraydeck op een eerste project wilt proberen, een eenheid wilt lezen of om een kleine wijziging vraagt. De kwaliteit varieert per taak, net als bij elk model, dus controleer de diff voordat je deze accepteert, voer je build-opdracht uit en houd Ask first ingeschakeld. Je kunt later in dezelfde instellingen een cloud-provider of een lokaal model koppelen.

Wat de Test-knop je vertelt

Druk op Test nadat je een endpoint, een sleutel of een modelnaam hebt ingevoerd. De knop controleert het endpoint en toont de responstijd en het contextvenster. De responstijd laat zien hoe lang een antwoord duurt vanuit deze verbinding, wat helpt bij het vergelijken van twee modellen op dezelfde taak. Het contextvenster toont hoeveel tekst het model in één keer kan verwerken, wat belangrijk is voor een lange eenheid met veel procedures. Een mislukte test betekent meestal een verkeerd adres of sleutel, dus los de instellingen op voordat je een taak start.

Een model kiezen voor de taak

Gebruik een groter model voor refactors, lange eenheden en complexe logica, en een kleiner model voor kleine bewerkingen zoals het toevoegen van try ... finally of het hernoemen van een procedure. Je kunt ze mengen in één chat. run_on_model stuurt een enkele moeilijke stap naar een groter model terwijl de rest van het werk op het door jou gekozen model blijft, en taak start sub-agents wanneer delen van het werk parallel kunnen draaien. Pas het model aan bij de stap en controleer het contextvenster met de Test-knop voordat je een grote eenheid plakt.

De kwaliteit verschilt tussen modellen en tussen taken, en geen enkel model haalt elke taak goed. Lees elke diff, build het project en voer je tests uit voordat je een wijziging accepteert. Ask first pauzeert voordat acties iets wijzigen, dus een zwak antwoord van welk model dan ook kost je een paar seconden lezen in plaats van een kapotte eenheid. Wijs de diff af en formuleer het verzoek opnieuw als het niet past.