Warum die aktuelle Token-Architektur von ChatGPT & Co. in eine Sackgasse führt – und wie eine segmentiertbare aber verbundene Netzarchitektur das nächste Paradigma setzen könnte.
Die großen Sprachmodelle wie GPT-4, Claude 3 oder Gemini beeindrucken die Welt – dem Realitätsgefühl von Sprachinteraktion, fachlichem Know How und der oft erstaunlich wirkenden Intelligenz. Allerdings hat sicher jeder schon gemerkt, dass der Output sich oft nur gut anhört, meist unvollständig oft auch im Einfachen Kontext stark ungenau und fehlerbehaftet ist. Hintergrund hierfür ist, dass diese Transformer LLM Systeme auf auf einer Funktionsweise basieren, die bei genauer Betrachtung technisch und logisch limitiert sind: Token rein, Token raus. Jeder Prompt wird als singuläres Ereignis behandelt. Zwar gibt es Speicheransätze („Memory“), doch diese sind entweder statisch, nicht nachvollziehbar oder nur punktuell zugeschaltet. Was fehlt, ist ein echter Denkverlauf.
Sicher ist vieles, was wir als fehlerhaft und ungenau feststellen an wirtschaftliche Limitierungen der Accounts und Kontexte gekoppelt, doch wie verschiedene wissenschaftliche Arbeiten überprüfen konnten, verbessern unlimitierter Kontext und Rechenleistung die Ergebnisse nicht. Das Gegenteil ist der Fall. Je komplexer das Problem, desto weniger Ressourcen werden genutzt und die LLM-Modelle neigen zu Faulheit, Ungenauigkeit und Logikfehlern. Der kognitive Faden fehlt. Keine Kontinuität, kein projektbezogenes Nachhalten von Kontext, kein rekursives Lernen im Themenbezug der Aufgabe. Was während einer Anfrage in der LLM passiert ist nicht nachvollziehbar. Der eigentliche Denkvorgang ist eine Blackbox: Der User erwartet, dass die KI weiß aber rein technisch gesehen weiß die KI nicht, was sie bereits durchdacht hat. Was nach Intelligenz aussieht, ist in Wahrheit synthetische Kurzsichtigkeit.
Kognitive Prozesspfade: Fehlanzeige
Lernen – im menschlichen wie im maschinellen Sinne – braucht etwas, das diese Modelle systemisch nicht besitzen: ein persistentes, adaptives, auditierbares Vorwissen. Ein System, das nicht denkt, sondern nur rechnet, ist kein Gedächtnisträger. Damit wird jeder Erkenntnisprozess zur Wiederholungsschleife. Prompt-Engineering kann das nicht kompensieren. Ebenso wenig wie API-basierte Workarounds oder Retrieval-Augmented Generation (RAG), die auf statische Vektorspeicher zugreifen.
Die mögliche Alternative – Eine Segmented LLM Architektur mit Denkpfadarchitektur
Was fehlt, ist ein strukturell entkoppelter, temporärer Denkraum – ein separat live trainierbares angekoppeltes LLm-Netzsegment und eine Interaktionssteuerung zwischen dem Sub-Segment und dem Haupt-LLM-Netz. Dieses arbeitet projektbasiert, speichert Kontextflüsse, erkennt wiederkehrende Denkpfade und dabei auditierbar, löschbar und trainierbar bleiben. Der Vorteil hierbei ist, dass die Validierung von Denkpfaden nicht über teuren V-RAM in den GPU’S passieren muss und ein intelligentes Speichermanagement zwischen temporärem Speicher und trainierbarem Speicher möglich wird. Die Funktion: nicht als LLM selbst zu agieren, sondern als Reflexions-, Interaktions- und Querverarbeitungsschicht. Die Interaktionsebenen zwischen dem Live trainierbaren „Sub-Segment“ mittels Denkpfadähnlichen Interaktionsmodellen nennen wir es mal „Cognitive Filter Layer“ könnten im Verbund mit modularen Schnittstellen zu Discourse Classification, Epistemic Process Control und temporärem Knowledge Routing, die Lösung für die Halluzinationen sein. Diese Filter und Modulstruktur könnte logisch zwischen LLM-Kern und Userinterface geschaltet werden und die Intersktionslogiken zwischen den beiden interagierenden LLM-Segmenten ermöglichen.
Das Cognititve Filterlayering ermöglicht:
• adaptive Kontexthaltung über Dialoge hinweg • Wissensvalidierung und Absicherung des Trainings der SUB-LLM • Verbesserte Interaktionslogik zwischen Mensch und Maschine • ethisch kontrollierbare Speicherhaltung mit Audit-Option
Warum es das noch nicht gibt
Nicht, weil es technisch unmöglich wäre. Sondern weil es das Paradigma sprengt. LLMs sind derzeit hochoptimierte Inferenzmaschinen – auf maximalem Output bei minimaler Antwortzeit. Ein zweites Gedächtnis würde Rechenressourcen binden, Kontrolllogiken benötigen und vor allem: einen architektonischen Bruch bedeuten. Doch ohne diesen Bruch bleiben diese Systeme blind für ihr eigenes Denken.
Die Zukunft der LLM’s denkt nicht nur. Sie erinnert sich.
Ein Sub-System, das Denken nicht nur produziert, sondern kontextualisiert, könnte den nächsten Quantensprung markieren. Nicht durch Größe. Sondern durch Tiefe. Wer jetzt beginnt, dieses „zweite Gehirn“ zu denken – wird das nächste Kapitel maschineller Intelligenz nicht nur schreiben, sondern verstehen können.
Gregor Anthes
Founder
copyright © 2025
in parts generated by AI (GPT4.0)
Image sources generated with ChatGPT – Sora