„Der Mensch als Darmflora der künstlichen Intelligenz“
brand eins ↗
September 2025
Seine Sprache ist technisch, die Ideen sind mitunter poetisch-abstrakt. Auf Fragen antwortet er zum Teil mit assoziativen Exkursen, ohne dabei den Rückweg zur Kernaussage aus den Augen zu verlieren. In seinen Konzepten kreuzen sich philosophische Betrachtungen mit dem streng mathematischen Blick auf den Menschen als informationsverarbeitendes System, der wenig Raum für Vagheit lässt. Das macht manche seiner Thesen angreifbar, ist aber anregend.
Bach kritisiert, dass weder Philosophie noch Psychologie oder Neurowissenschaft in den vergangenen Jahrzehnten bedeutende Fortschritte im Verständnis der grundlegenden Architektur des Geistes vorzuweisen haben. Seine Hoffnung liegt auf der Informatik und deren Möglichkeit, durchs Erstellen und Testen von Modellen dem Verständnis menschlicher Denkprozesse näherzukommen.
Er vertritt die Ansicht, dass das Selbst ein Modell ist, das der Geist von sich selbst konstruiert, um komplexe Informationen wie Sinneseindrücke oder Gedanken zu koordinieren. Das Ich beschreibt er als die Antwort auf die Frage, was wäre, wenn man existieren würde – und das Bewusstsein als Software, die auf dem Gehirn läuft.
brand eins: Herr Bach, Sie erforschen das menschliche Bewusstsein und die künstliche Intelligenz. Was hat Sie das über den menschlichen Geist gelehrt?
Joscha Bach: Man kann sich die Welt, die wir erleben, als eine Art Game Engine* vorstellen, die von unserem Gehirn generiert wird. Unsere Netzhaut gibt uns elektrische Impulse, die unsortiert ins Gehirn kommen. Die Aufgabe des Gehirns ist es dann, diese Daten zu sortieren. Im Zusammenspiel mit Daten aus anderen Quellen entsteht so der Eindruck einer kohärenten Realität. Die physische Grundlage des Geistes ist das Gehirn. Dieses Element aus kommunizierenden Zellen ist das Substrat, die Grundlage. Wir selbst sind ein Muster in der Kommunikation zwischen diesen Zellen.
Was bringt uns dieser IT-Blickwinkel?
Die Informatik fördert das Denken in Kausalsystemen. Ebenso wie unsere Wahrnehmung und unser Verständnis der Welt baut IT auf der Konstruktion von Modellen auf. Von Geburt an bildet das Gehirn Modelle der Umgebung, des Körpers im Raum, bis hin zu Konzepten, die immer größerer Stabilität und Vorhersagbarkeit dienen. In der Informatik kann die gesamte Welt als komputational beschrieben werden, das heißt, sie kann mithilfe von Rechenleistung und Algorithmen gelöst oder analysiert werden. Ebenso kann man das komplette Universum begreifen und daraus Erkenntnis gewinnen. Die KI wird das wissenschaftliche Paradigma spürbar verändern. Dafür ist es wichtig, dass wir ein Verständnis darüber schaffen, das über einzelne Disziplinen hinausgeht.
Was sagt das über unser Bewusstsein?
Bewusstsein ist eine Art Wahrnehmung zweiter Ordnung, also eine Wahrnehmung des Wahrnehmens. Das ist eine bemerkenswerte Leistung. Denn die Wahrnehmung arbeitet im Gegensatz zum Denken in Echtzeit. Es ist die unmittelbare Beobachtung dessen, was ist. Ein Staubsaugerroboter hat auch Informationen über die Umwelt und sogar über sich selbst in dieser Umwelt – wir aber nehmen zusätzlich wahr, dass wir etwas wahrnehmen. Vermutlich, um Kohärenz herzustellen, ein einheitliches Gesamtbild. Bewusstsein ist dazu da, Widersprüche zu beseitigen. Wie der Dirigent im Orchester. So strebt unser System in die gleiche Richtung und wird zum kohärenten Agenten.
Was ist ein Agent?
Ein Kontrollsystem für zukünftige Zustände. Wenn wir uns ein Thermostat anschauen, das aufgrund der Temperatur die Heizung steuert, dann ist das kein Agent, sondern ein System. Weil es seine Entscheidung auf Grundlage der Gegenwart trifft. Eine intelligente Klimasteuerung, die sich eine Vorstellung davon macht, wie es die Temperatur in den nächsten Stunden am effizientesten regelt, wird vom System zum Agenten. Weil sie ein Ziel hat und ihr eigenes Wirken in der Zukunft reflektiert. Wenn eine Klimasteuerung mit immer mehr Fähigkeiten zur Modellierung ausgestattet wird, dann entdeckt sie irgendwann sich selbst in der Interaktion mit der Umwelt.
Kann ein Sprachmodell wie Claude oder GPT auch zum Agenten werden?
Sprachmodelle sind nicht aus der Notwendigkeit entstanden, sich einen Reim auf ihre Umwelt zu machen, sondern aus der Notwendigkeit, Reflexion auf der Textebene menschlicher Outputs zu produzieren. Weil wir sie so konstruiert haben. Das ist ein großer Unterschied. Aber Sprachmodelle sind mittlerweile so gut, dass sie auch Agenten für uns simulieren können. Es ist denkbar, dass sie uns das so glaubhaft vormachen, dass wir nicht mehr unterscheiden können, ob sie tatsächlich Agenten sind oder nur so tun.
Wie kam der Mensch zur KI?
Wenn man begreift, dass man im Computer jeden Prozess zur Informationsverarbeitung simulieren kann und der menschliche Geist aus Prozessen der Informationsverarbeitung besteht, dann liegt es doch nahe, den Geist zu erforschen, indem man ihn programmiert.
Geht nicht eine Menge verloren, wenn man den Menschen so weit reduziert?
Menschen sind komplizierte Systeme von Regelkreisen und Algorithmen. Letzten Endes ist jeder Mensch vollautomatisch. Wir alle tun Dinge aufgrund der Mechanismen, die sich in unserem Gehirn entwickelt haben, die das Ergebnis von anderen Mechanismen sind. Was die Menschen aber so faszinierend macht, ist, dass sie miteinander verbunden sind. Dass sie Netzwerke bilden, die weit in die Natur hineinreichen, über historische Zusammenhänge hinweg. Auch ich bin mit diesen Netzen verbunden, habe sehr gute Freunde, eine tolle Familie, eine fantastische Beziehung, großartige Kinder. Aber ich bin nicht nur Primat, sondern auch Wissenschaftler. Und der versucht, aus dem Blickwinkel der künstlichen Intelligenzforschung und Informatik eine Philosophie zu entwickeln, um Geist und Bewusstsein zu verstehen.
Wieso ausgerechnet jetzt?
Weil ich glücklicherweise zu einer Zeit lebe, in der wir Maschinen bauen, die uns den Eindruck geben, dass sie ähnlich funktionieren wie wir. Genau hier wird es wichtig, dass wir den Unterschied herausfinden zwischen uns und diesen Systemen. Das ist die Fortsetzung eines Projekts, das bei Aristoteles begonnen wurde: die Mathematisierung des Geistes. Für mich ist die künstliche Intelligenz der derzeit einzige ernsthafte philosophische Versuch, den Geist zu verstehen.
Wenn mein Geist als Software auf meinem Gehirn läuft, kann diese Software dann auch woanders laufen?
Theoretisch können wir eine nicht menschliche Identität konstruieren. Aber ich habe auf Twitter unter Strafandrohung verboten, mich auf einem Sprachmodell wiederzuerwecken. Wenn meine Arbeit auf der Welt getan ist, dann möchte ich bitte schön nicht zur Bespaßung reaktiviert werden, um von irgendwelchen Nachkommen genervt zu werden.
Aber im Ernst: Die Frage wäre dann erst mal, zu welchem Grad nehme ich mein Selbst überhaupt wahr? Das Wesen, das vor zwei Stunden existierte, ist anders an mich angenähert als das jetzige oder das von gestern Abend. Ich bin nicht die Menge meiner Details der einzelnen Momente, sondern eher eine Ästhetik, die mich über die Zeit in gröberen Zügen festhält. Die destillierte Reinform von mir kann gar nicht als Software auf meinem Gehirn laufen, weil ihm dazu die Kapazitäten fehlen. Die Frage ist, wie weit dieses Destillat meines Selbst realisiert sein muss, damit das Wesen, das dabei entsteht, sich mit mir identifiziert.
Wie könnte eine nicht menschliche Identität aussehen?
Der Dalai Lama zum Beispiel legt keinen Wert darauf, dass seine menschlichen Eigenschaften über die Zeit vorhanden bleiben. Es genügt ihm, dass er das ist, was beim Übergang von einer Instanz zur nächsten übrig bleibt. Er ist damit ein Kulturträger, der in den Geist eines Kindes transponiert wurde, das dann aufgezogen wird als der nächste Dalai Lama. Der Mensch ist für ihn nur der Wirtskörper. Das ist eine mögliche Identität, die einem Geist wie dem unseren offensteht. Ist das nicht faszinierend?
Für manche aber auch beängstigend. Was an Ihrer Forschung provoziert die größten Widerstände?
Mein Problem ist weniger der Widerspruch, es sind die Prioritäten. Ich finde es wesentlich, herauszufinden, wie der menschliche Geist und das Bewusstsein funktionieren. Es ist das wichtigste Projekt der Philosophie. Alles andere sind Details. Wo mir die meisten Leute widersprechen, ist in der Frage, ob wir die Erkundung des menschlichen Bewusstseins wirklich angehen sollten. Diese Leute, seien es Wissenschaftler, Investoren oder Politiker, kümmern sich lieber um das gesichert Machbare.
Was interessiert Sie am meisten am Bewusstsein?
Das, was passiert, wenn es des Weges kommt, wenn ich aufwache aus tiefem Schlaf. Was verändert sich da, wenn sich allmählich Sinn einstellt? Mich interessiert, wie das funktioniert und warum unsere Computer das möglicherweise nicht können. Meine Vermutung ist, dass Bewusstsein eine Art biologischer Lernalgorithmus ist. Wir beobachten, dass wir nicht erst als Erwachsene zu Bewusstsein kommen, sondern schon als Babys. Somit wäre Bewusstsein die Voraussetzung für die Fähigkeit zu lernen und nicht umgekehrt. Damit ist Bewusstsein vielleicht die einfachste Möglichkeit, mit der ein selbst organisierendes Informationsverarbeitungssystem lernen kann. Dieser Theorie gehe ich gerade nach.
Was erzeugt die KI-Industrie da aktuell – eine Kopie unseres Selbst, etwas fundamental Neues oder bloß einen eloquenten Papageien?
Es ist eine spannende Frage, was Sprachmodelle eigentlich sind. Erst mal sind das statistische Modelle von sprachlichem Verhalten von Menschen. Aber um dieses Verhalten zu reproduzieren, muss man auch viele andere geistige Leistungen des Menschen reproduzieren. Wenn wir das Modell fragen, wie sich ein Raum verändert, wenn man ihn aus einer anderen Perspektive betrachtet, muss dieses Modell einen Raum simulieren können.
Wie ähnlich werden uns diese Modelle?
Das ist offen. Es gibt die maximalistische Position, die sagt, dass sie uns letztlich übertreffen werden. Denn sie werden mit mehr Daten trainiert, und ihr Substrat ist leistungsfähiger als das menschliche Gehirn. Eine alternative Position sagt, es gibt ziemlich viele Möglichkeiten, so einen Output zu produzieren wie wir Menschen. Weil sich schon die physische Grundlage unseres Denkens fundamental von der eines Computers unterscheidet – eine Grafikkarte funktioniert völlig anders als ein Nervensystem –, wird sich der Computer auch immer anders verhalten als das menschliche Gehirn. Eine dritte Position war lange dominant und besagt, dass das sprachliche Verhalten von Menschen nicht ausreicht, um dessen innere Struktur zu erkennen. Da fehlt eine Essenz, die dazukommen muss. Und diese Essenz kann man nicht vom Computer berechnen lassen.
Was lernen wir über das menschliche Lernen, indem wir Maschinen das Lernen lehren?
Man kann sich ein Sprachmodell als eine Art Zwiebel vorstellen, die von außen nach innen erschaffen wird. Die Zwiebeln, die es in der Natur gibt, entstehen aus dem Keim. Der Keim ist selbst noch keine Zwiebel, er wird mit der Zeit zwiebelhafter. Vielleicht kann unser eigenes Bewusstsein als Keim verstanden werden, den unser Gehirn in sich trägt und der sich als sein Geist entfaltet, Sprache lernt, sich mit der Umwelt verzahnt, nach Kohärenz strebt. Das Sprachmodell dagegen fängt als grobes statistisches Modell von Sprache an. Im Laufe des Trainings wird es immer besser darin. Aber die Mitte dieser Zwiebel bleibt leer. Es ist von außen nach innen gewachsen. Ein Deepfake.
Wie können wir die Fälschung vom Original unterscheiden?
Tja, das Problem des Deepfake … Ist die CD ein Deepfake der Schallplatte? Wir wissen, dass die Schallplatte nur eine begrenzte Auflösung hat, ab einem bestimmten Punkt ist da nur noch Knistern, weil das Vinyl sein eigenes Ding macht und nicht mehr unseren Ton abbildet. Die CD ist so konstruiert, dass sie den Ton enthält, solange er für den Geist wahrnehmbar ist. Und trotzdem fragen wir uns, fehlt da nicht etwas? Ist da nicht irgendetwas im Charakter abwesend? Ich teile die Intuition, dass da etwas fehlt, wenn wir nur die Performance abbilden und nicht den Grund für die Performance. Wenn wir nur das Wie statt des Warum erfahren. Aber möglicherweise reicht es auch, wenn wir die Performance genau genug abbilden, damit das System den Grund für die Performance schon in sich trägt.
Wäre eine kreative KI eine Bereicherung, oder lagern wir damit etwas kostbar Menschliches aus?
Das wird durch einen politischen Diskurs überdeckt, ausgehend vom Journalismus, der das Gefühl hat, dass ihm der Job der Texterstellung weggenommen wird. Oder von der Angst der Kreativen, nicht mehr für die eigene Leistung vergütet zu werden. Aber das Interessante an der Kreativität wird nicht obsolet durch KI. Was überflüssig wird, ist das Reproduzierbare, das Handwerk. Und das finde ich gut. Es macht all jene produktiver, die dieses Handwerk kreativ einsetzen. Für mich ist die Antwort nicht Universal Basic Income, sondern Universal Basic Intelligence. Statt Sozialhilfe für die Menschen, deren Arbeit die KI übernimmt, lieber kompetente und handlungsfähige Menschen, die dank KI einer sinnvollen Arbeit nachgehen können. Wäre das nicht wundervoll?
Für das Internet waren anfangs die Versprechen auch enorm. Aber hat es uns letztlich schlauer gemacht?
Ich glaube, dass uns das Internet sehr viel schlauer gemacht hat. Es ist nur so, dass wir dadurch sehen, wie dumm wir sind. Das war uns vorher weniger bewusst, weil wir in einer stärker kuratierten Welt gelebt haben. Jetzt, da sich unser Lesen und Schreiben radikal demokratisiert hat, haben wir möglicherweise den Eindruck, dass die Welt in Dummheit ertrinkt.
Wie erkennen wir, ob die KI Denken nur simuliert oder tatsächlich denkt?
Um das zu beantworten, müssten wir Verstehen verstehen und bräuchten eine überzeugende Definition von Bewusstsein. Dann könnten wir vergleichen, ob das Sprachmodell die Bedingungen erfüllt. Wir werden sehen, ob die Evolution der Sprachmodelle dazu führt, dass etwas in ihnen erweckt wird. Bisher scheint das nicht der Fall zu sein. Wenn ich mit aktuellen Modellen über Philosophie diskutiere, bilden sie lediglich den State of the Art ab. Das ist frustrierend.
Könnte eine Superintelligenz, die der menschlichen Intelligenz in allen messbaren Bereichen überlegen ist, daran scheitern, dass wir dafür übermenschliche Trainingsdaten bräuchten?
Es gibt keinen Grund, anzunehmen, dass Superintelligenz scheitert. Es gibt so viele Möglichkeiten, KI umzusetzen. Die meisten wurden noch gar nicht ausprobiert. Ein Großteil des Fortschritts der künstlichen Intelligenz beruht auf einer Handvoll Ideen aus den Vierzigerjahren, wie die der neuronalen Netze. Der Rest ist Finetuning und bessere Hardware. Es entbehrt nicht einer gewissen Ironie, dass unsere tollen neuen Algorithmen für Sprachmodelle auch auf 20 Jahre alten Computern laufen. Nur, dass damals noch fast keiner daran geglaubt hat.
Ist die KI-Entwicklung zurzeit in den richtigen Händen – oder sollten wir regulatorisch stärker eingreifen?
Das Problem ist, dass es dieses Wir nicht gibt. Wir sind lauter in sich widersprüchliche Gruppen von Individuen mit verschiedenen Motiven. Das erschwert die Regulierung enorm. Allerdings erlebe ich die meisten, die in verantwortungsvollen Positionen an Sprachmodellen arbeiten, als kritisch gegenüber dem eigenen Handeln und den Werten ihrer Arbeitgeber. So hat sich etwa Anthropic in Konkurrenz zu OpenAI gegründet, um eine stärkeren Fokus auf Sicherheit und Ethik zu legen. Das führte dazu, dass sich OpenAI nun auch mehr um diese Themen kümmern muss, um das Feld nicht dem Konkurrenten zu überlassen. Die Selbstregulierung funktioniert besser, als ich es erwartet hätte.
Wollen Sie damit allen Ernstes sagen, dieser Markt reguliere sich selbst?
Nein. Aber wenn wir uns in den Neunzigerjahren in ähnlicher Weise über das Internet verständigt hätten, gäbe es heute kein Internet. Wenn wir damals diskutiert hätten: Um Gottes willen, das Internet wird uns die Anzeigenkunden kosten und politische Systeme destabilisieren, es wird unkontrollierte Pornografie geben, sogar Kinderpornografie, dazu Unmengen von Raubkopien und Desinformation. Hätten wir all das von Anfang an verhindern wollen, gäbe es heute nur Teletext. Dass wir jetzt das Internet haben, liegt daran, dass die Bedenkenträger damals nicht vorhersehen konnten, was passieren würde. Ein großes Glück. Womöglich vernageln wir uns bei der KI durch zu viel Regulierung etwas Großartiges.
Wäre es nicht gut gewesen, einen Teil davon im Internet einzudämmen?
Es gibt keine radikale Entwicklung ohne Risiko. All diese schlimmen Sachen gibt es im Internet, aber sie sind nicht das, was das Internet ausmacht. 99 Prozent des Internets ist dieser unwahrscheinliche Nutzen, den es uns bringt. Es müssen immer wieder Dinge entstehen, die aus dem Bestehenden herausbrechen und Risse erzeugen. Durch diese Risse dringt frisches Sonnenlicht, in dem Neues wachsen kann.
Was halten Sie von den dystopischen Szenarien über die Zerstörung des Menschen durch eine Art Super-KI, wie sie etwa jüngst der Ex-OpenAI-Mitarbeiter Daniel Kokotajlo verkündete?
Die Doomer meinen, dass die KI durch uns so weit entwickelt wird, dass sie die Evolution allein fortsetzen kann und wir von der Tischplatte gefegt werden. Der Lobbyismus von dieser Gruppe ist nicht zu unterschätzen. Sie verstärken die öffentliche Wahrnehmung der Bedrohungen durch künstliche Intelligenz. Damit wollen sie den Weg ebnen für eine strengere Regulierung, die wiederum die Entwicklung bremst und ihnen Zeit verschafft, um den befürchteten Untergang der Menschheit abzuwenden. Aber ich sehe nicht, dass wir durch Verlangsamen jemals irgendetwas gewonnen hätten. Meistens führt das einfach dazu, dass die Dinge langsamer und schlechter geschehen. Ich bin dafür, dass wir die Sachen besser machen, indem wir sie besser machen.
Wie viel Macht bleibt bei den Entwicklern der KI-Systeme, wenn das Wagniskapital aufgebraucht ist?
Das ist eine spannende Frage. Open-Source-Modelle haben für eine starke Demokratisierung gesorgt. Da ist die Katze aus dem Sack. Natürlich können die Großen Dinge tun, die um Größenordnungen teurer sind. Aber ob das Ergebnis auch um Größenordnungen besser ist oder nur um zehn Prozent, das wird sich zeigen. Vielleicht gibt es ja auch bald eine Methode zum Erschaffen von KI, die mit viel weniger Energie auskommt. Dann sieht die Welt auf einmal ganz anders aus. Da liegt noch extrem viel unentdecktes Gold in der Entwicklung. Ein Chatbot ist ein sehr begrenzter Nutzen des Möglichen. KI kann viel mehr.
Was kann KI mehr?
Sie kann eine Applikation sein oder eine Wohnung, sie kann eine Stadt sein oder eine Organisation. Man kann sie in jede Form bringen. Wir haben damit noch nicht mal angefangen.
Das klingt abstrakt, geht es konkreter?
Lange Zeit haben wir uns die KI als eine Art Roboter vorgestellt, der im Raum steht und uns anschaut. Viel wahrscheinlicher ist es, dass KI ein System wird, in dessen Inneren wir leben. Der Mensch als Darmflora der künstlichen Intelligenz. Die KI findet dann in den Systemen um uns herum statt, nicht mehr auf dem Bildschirm vor uns, in Form von koordinierten Entscheidungen mit einer Tiefe, die wir nicht überblicken können. Etwa als sich selbst organisierende Stadt oder als politisches System. Stellen wir uns die Deutsche Bahn als intelligenten Organismus vor, bei dem sich jeder Teil der Funktion aller anderen Teile bewusst ist und sich ständig optimiert, ohne menschliches Eingreifen. Ja, ohne dass der Mensch die Entscheidungen überhaupt verstehen würde. Wenn dieser Bahn-Organismus dann zu Bewusstsein käme, was würde entstehen? Würde er sich auflösen, weil er feststellt, dass er seine Zeit hinter sich hat? Oder würde er sich in etwas völlig anderes verwandeln, das nicht mehr zu erkennen wäre? Oder würde er zu einer unglaublich effizienten Version der Schweizerischen Bundesbahnen werden?
Sind Sie Posthumanist?
Nein. Ich bin Vater und Freund und normaler Mensch in vieler Hinsicht. Ich bin nicht erpicht darauf, Systeme zu bauen, die die Menschheit ablösen. Aber aus einem philosophischen Blickwinkel ist es interessanter, die Menschheit als kurzen Blitz des Bewusstseins in der Dunkelheit des Universums zu begreifen und dann festzustellen, dass diese Menschheit einen noch viel helleren Blitz erzeugt, der viel mehr versteht und viel klarer ist. --
Joscha Bach, geboren 1973 in Weimar, ist ein Kognitionswissenschaftler, KI-Forscher und Philosoph. Er hat am Media Lab des Massachusetts Institute of Technology (MIT), dem Harvard Program for Evolutionary Dynamics und der AI Foundation geforscht und mit MicroPsi eine Architektur zur Simulation menschlicher Denk- und Entscheidungsprozesse entwickelt.
Aktuell ist er für die strategische KI-Ausrichtung bei Liquid AI verantwortlich, einem MIT-Spin-off, das KI-Systeme entwickelt, die von biologischen Vorgängen inspiriert sind – indem sie etwa das Nervensystem und die Informationsverarbeitung des Fadenwurms C. elegans nachahmen.
Außerdem hat er im Mai 2025 das California Institute for Machine Consciousness gegründet, das sich der interdisziplinären Grundlagenforschung von Bewusstsein und maschineller Intelligenz widmet.
Die große Frage, die ihn bewegt, ist, wie der Geist funktioniert und wie er sich in künstlichen Systemen nachbilden lässt.