Lern-Datensätze (Presets):
2
5
GELU
Adam
0.050
0.001
Canvas-Klick fügt hinzu:
Epoche
0
Adam β₁=0.9 β₂=0.999
BCE Loss ℒ
0.693
L2: 0.000
Genauigkeit
50.0 %
N = 120 Samples
Trainierbare Params
46
2 → 5 → 5 → 1
‖∇W₁‖₂ Gradient
0.000
Healthy Flow
🕸️ Live-Netztopologie & Backprop-Fluss (W, b, ∂ℒ/∂W)
Bewege die Maus über Neuronen im Graph, um exakt z = Σw·x + b und den Gradienten zu prüfen.
FWD + BWD LIVE
🗺️ 2D-Entscheidungsgrenze & Datenraum
x₁=0.00, x₂=0.00 → p=0.50
📈 Loss-Verlauf ℒ(t) & Aktivierung φ(z) / φ'(z)
max φ'(z)
Transformer-Szenarien:
H2: Coreference
1.00
10000
0.80
4
0.90
Tokens anklicken (Query qᵢ wählen) — Kontext-Wort gelb markiert:
KV-Cache: 9 Tokens • RMSNorm + SwiGLU
⚡ Attention-Bögen (qᵢ → kⱼ) & Q·Kᵀ Heatmap
Query: "it"
🌀 RoPE 2D-Phasenrotation (x₂ₖ, x₂ₖ₊₁) & SwiGLU Output
m = 6 • Δθ
📊 Next-Token Logits → Softmax → Top-K / Top-P
H = 1.42 bits
MoE Token-Strom Preset:
🔀 Sparse Mixture-of-Experts (8 Experten • Top-K Router)
Active: 2 / 8 (25%) • Aux α=0.05
2 / 8
0.05
🔬 Gewichts-Quantisierung: FP32 → FP16 → INT8 → INT4
SQNR: 21.4 dB
INT4 (4-bit)
💾 LLM VRAM, KV-Cache & O(N²) vs. O(N) Mamba/SSM Skalierungs-Labor
Fits in VRAM
8 B
32,768
INT4 / FP8
GQA 8:1
RTX 4090 (24 GB)
Gewichte VRAM
4.00 GB
KV-Cache / State VRAM
2.00 GB
Gesamtbedarf
6.70 GB
Decode-Tempo (Roofline)
142 tok/s
Test-Anfrage wählen:
2
0.45
On-Premise Edge
Faithfulness / Faktentreue
97 %
Halluzinations-Risiko
3 %
Top-1 Cosine cos(q,d)
0.94
Datenschutz & EU AI Act
0 B Cloud
🧭 2D Embedding-Projektion & Cosine-Ähnlichkeit cos(q, dᵢ)
8-Chunk Knowledge Base
🔬 Pipeline-Trace: Halluzination vs. Verifizierte Antwort
GROUNDED + VERIFIED
Abgerufene Vektor-Dokumente (nach cos(q, d) sortiert):
🎓 Teach-Me Kompendium: Vom Perzeptron bis zum modernen Agentic LLM
6 mathematische Ingenieurs-Stationen & 6 Salieri-Prüfsteine gegen gängige KI-Mythen.
🧠 12-Fragen KI-Architektur & Mathematik-Quiz
Teste dein Wissen zu Backpropagation, Attention, RoPE, MoE, KV-Cache & RAG.
Score: 0 / 12