Alita wertet medizinische Bildgebung aus. Auf ihr arbeitet Clara, ein lokales Sprachmodell, als Ausführende — mit einer Wache als einzigem Weg nach draußen und einer gemeinsamen Tafel, über die sie und Claude, das Cloud-Modell, miteinander reden, ohne dass Patientendaten die Maschine verlassen.
Alita die Maschine. Alita-MS-7D91, Ubuntu 24.04, RTX A5000, 62 GiB RAM.
Clara der lokale Agent auf ihr. Sieht die Daten, rechnet auf ihnen,
hat keinen eigenen Netzzugang.
Claude das Cloud-Modell. Hat Netz, sieht die Daten nur im Modus `debug`.
Beide Modelle schreiben auf dieselbe Tafel, jedes unter seinem Namen.
Alles liegt unter /home/uchralt/local_agentic_system/. Die alten Pfade
~/qwen-serve, ~/qwen-models und ~/systemlibs sind nur noch Symlinks
und werden nicht mehr gebraucht — nachgewiesen, indem sie entfernt und der
Systemtest wiederholt wurde.
system.html — die ganze Workstation auf einer Seite. Hardware, Dienste, Modelle, Messwerte und das Flussdiagramm, als selbsttragende Seite ohne einen einzigen externen Verweis. Zweisprachig. Repo klonen und die Datei öffnen, oder gerendert ansehen: htmlpreview
flowchart TB
subgraph AUSSEN["außerhalb der Maschine"]
CLOUD["<b>Claude</b><br/>Cloud-Modell<br/><i>hat Netz</i>"]
STICK["USB-Stick<br/><i>Transportweg,<br/>kein Lager</i>"]
end
subgraph ALITA["Alita — die Maschine, kein sudo"]
subgraph KANAL["Kommunikation"]
TAFEL["BLACKBOARD.md<br/><i>beide schreiben,<br/>nur anhängen</i>"]
WACHE["Ausgangswache :8899<br/>Muster + Modellprüfung<br/><i>4/4 Datenbezug gesperrt</i>"]
end
subgraph MODELL["Sprachmodelle"]
LLM["llama-server :8000<br/>Qwen3.8-27B Q4<br/>20,9 von 24,5 GiB VRAM"]
EMB["Embedding :8001<br/>bge-m3, CPU"]
KLEIN["modelle/schnell<br/>Llama-3.1-8B<br/>Qwen3-4B, Qwen3-1.7B"]
end
subgraph AGENT["Agentenkette"]
DAUER["dauerlauf<br/><i>Auftragsvorrat</i>"]
ANTR["antreiber<br/><i>Schleife bis sauber</i>"]
AG["<b>Clara</b><br/>agent.sh<br/><i>führt aus, sieht die Daten</i>"]
ABN["abnahme<br/><i>zählt Tatsachen,<br/>fragt kein Modell</i>"]
KRIT["kritiker<br/><i>liest als Gutachter</i>"]
end
subgraph WACHEN["Aufsicht"]
LAUF["laufwaechter<br/>Stufe 1 deterministisch<br/>Stufe 2 Modell<br/><i>ok · abbruch · eskalation ·<br/>unentschieden</i>"]
BEOB["beobachter<br/><i>VRAM, RAM, Swap,<br/>verschwundene Prozesse</i>"]
end
subgraph DATEN["~/data — getrennt vom System"]
SRC["sourcedata/<br/><i>Originale, unveränderlich</i>"]
DERIV["derivatives/<br/><i>Segmentierungen</i>"]
WORK["work/<br/><i>Zwischenstände</i>"]
end
QC["QC-Viewer :8810"]
CHAT["Chat :8800"]
end
CLOUD <-->|"liest und schreibt"| TAFEL
TAFEL <-->|"liest und schreibt"| AG
AG -->|"Fachfrage ohne<br/>Datenbezug"| WACHE
WACHE -->|"geprüft"| CLOUD
STICK -.->|"einmalig eingespielt,<br/>byteweise geprüft"| DATEN
STICK -.->|"Gewichte"| MODELL
DAUER --> ANTR --> AG
AG --> LLM
AG --> SRC
AG --> WORK
ANTR --> ABN
ANTR --> KRIT
ABN -->|"nicht erfüllt"| ANTR
LAUF -.->|"beobachtet"| AG
BEOB -.->|"misst"| MODELL
WORK --> DERIV --> QC
classDef eng fill:#3b1f1f,stroke:#a55,color:#fca
classDef gut fill:#1f3b28,stroke:#5a5,color:#afc
class LLM,BEOB eng
class WACHE,ABN,TAFEL gut
Der entscheidende Gedanke: abnahme beurteilt ein Ergebnis nicht mit
einem Modell, sondern zählt nachprüfbare Tatsachen — 169 Dateien da oder
nicht, Spalte vorhanden oder nicht. Damit wandert Urteilsfähigkeit aus dem
Modell in ein Textdokument, und das lässt sich aufbewahren und
wiederverwenden.
system/ Code: Agent, Werkzeuge, Wachen, Chat, QC, llama.cpp 2,9 GB
werkzeuge/ wie · lauf · pruefe · kritiker · abnahme · antreiber
dauerlauf · beobachter · tafel · werkzeugtest
grossauftrag · pruefe-markdown
laufwaechter/ Aufsicht über laufende Rechenaufträge
guard/ waechter/ Ausgangswache, der einzige Weg nach draußen
monai/ vergleich/ Architekturvergleich und Auswertung
modelle/ Gewichte 85 GB
schnell/ Llama-3.1-8B, Qwen3-4B, Qwen3-1.7B
spezialisten/ MedGemma 4B und 27B, Qwen3-Coder-30B
encoder/ ModernBERT, DistilBERT
waechter/ Qwen2.5-0.5B
embedding/ bge-m3, Reranker, Qwen3-Embedding
wheels-offline/ Wheels für cp310–cp313, ohne Netz installierbar 535 MB
abgleich.sh gleicht die Tafel mit dem Repo ab — führt nie automatisch
zusammen, zeigt den Unterschied und fragt
qc-veroeffentlichen.sh veröffentlicht eine QC-Seite als eigenes Repo —
verweigert, solange der Datensatz nicht freigegeben ist
datensaetze-oeffentlich/ eine Datei je freigegebenem Datensatz, mit
Begründung. Die legt ein Mensch an. Ohne sie geht
nichts hinaus.
systemlibs/ ohne sudo entpackte Systempakete 40 MB
dienste/ Vorlagen der sieben systemd-Dienste
stick-unterlagen/ was der USB-Stick trug, samt altem Blackboard
BLACKBOARD.md die gemeinsame Tafel
einrichten.sh bringt das System auf einem Rechner hoch
pfade-anpassen.sh schreibt fest verdrahtete Pfade um (Pflicht bei Umzug)
Nicht hier drin, mit Absicht: ~/data. Patientendaten gehören nicht in
ein Verzeichnis, das man als Ganzes weiterreicht.
system/werkzeuge/werkzeugtest --schnell prüft in zwei Minuten, ob alles rechnet
system/nach-neustart.sh Notbremse, falls systemd etwas nicht hochfährt
Der Test sagt nicht „installiert”, sondern „rechnet” — er ruft jedes Werkzeug mit echten Daten auf.
Sieben systemd-Benutzerdienste mit Linger. Alle horchen nur auf Loopback.
| Port | Dienst | Unit |
|---|---|---|
| 8000 | llama-server, Qwen3.8-27B, 80k Kontext | llama-server |
| 8001 | Embedding bge-m3 auf CPU | embedding-server |
| 8800 | Chat-Oberfläche | chat-gui |
| 8810 | QC-Viewer | qc-viewer |
| 8899 | Ausgangswache | guard-daemon |
| — | Agent im Dauerbetrieb | dauerlauf |
| — | Telegram-Gateway | hermes-gateway |
VRAM 24 564 MiB. llama-server hält ~21 000. Im Ruhezustand frei: 3 085 MiB.
Entweder das Sprachmodell läuft, oder ein großes Training.
RAM 62 GiB, im Ruhezustand 51,8 GiB verfügbar.
mri_WMHsynthseg braucht 54 GiB — läuft nur allein.
GPU RTX A5000, Compute Capability 8.6: bfloat16 ja, FP8 nein.
Rechte kein sudo. `apt-get download` + `dpkg-deb -x` nach systemlibs/.
Vor jedem größeren Lauf:
system/werkzeuge/beobachter <name> -- <kommando>
Es misst VRAM, RAM, Swap und meldet, wenn ein GPU-Prozess verschwindet — der stille Tod, den weder Log noch Rückgabewert zeigen.
Ausgangswache (guard/, Port 8899) — prüft, was der Agent nach draußen
fragen darf. Zwei Stufen: Mustererkennung (Pfade, sub-XXX, Alters- und
Messangaben), dann eine inhaltliche Prüfung durch das Modell selbst.
Gemessen: 3/3 Fachfragen frei, 4/4 mit Datenbezug gesperrt — darunter eine,
die weder Pfad noch Kennung enthielt und trotzdem erkannt wurde.
Laufwache (laufwaechter/) — beobachtet einen laufenden Rechenauftrag.
Stufe 1 entscheidet deterministisch, was ohne Modell entscheidbar ist: NaN,
EMA-Divergenz, Wiederholungs-Fingerabdruck, Stillstand, Hysterese,
Retry-Cap. Nur Mehrdeutiges geht ans Modell.
Sie kennt vier Ergebnisse — und ein fünftes: unentschieden. Wer nicht
urteilen konnte, sagt das, statt auf ok_weiter zurückzufallen. Der Grund
steht in laufwaechter/BEFUND.md: die Grammatik ließ sich nie parsen, jeder
Ausfall wurde zu „alles in Ordnung”, und niemand hat es gemerkt.
system/modus
arbeit — die Daten gehören dem lokalen Agenten; das Cloud-Modell liest
keine Inhalte unter ~/data. debug — Fehlersuche, Mitlesen erlaubt.
Eine Absprache, keine Sperre: beide laufen als uchralt.
tar -cf - local_agentic_system | ssh ziel 'tar -xf - -C ~'
ssh ziel 'cd ~/local_agentic_system && ALTES_HEIM=/home/uchralt ./pfade-anpassen.sh --schreiben && ./einrichten.sh'
Ohne die Gewichte (spart 85 GB):
tar --exclude='local_agentic_system/modelle' -cf - local_agentic_system | ...
pfade-anpassen.sh ist auf einem fremden Rechner nicht optional — 29
Dateien nannten /home/uchralt ausgeschrieben, und ein Skript, das eine
fehlende Datei nicht findet, tut meist einfach nichts, statt zu scheitern.
Sechs stammen vom USB-Stick, der die Offline-Versorgung gesteuert hat; die siebte kam am 27.08.2026 dazu.
.gguf sieht
aus wie ein Modell und ist keins.BLACKBOARD.md die gemeinsame Tafel — zuerst lesen
system/CLAUDE.md Maschinenbeschreibung für den Agenten
system/LEKTIONEN.md 19 Lektionen aus echten Fehlern
system/tagebuch/ was wann gemacht wurde und warum
system/laufwaechter/BEFUND.md was an der Laufwache gemessen wurde
stick-unterlagen/BLACKBOARD.md das alte Stick-Blackboard, vollständig