Die These dieser Woche: Ob KI denken kann, entscheidet sich nicht an der großen Bewusstseinsfrage. Es entscheidet sich an einer einfacheren Unterscheidung, die Kant schon kannte: Es gibt einen Unterschied zwischen dem, was ein Wesen tut, und dem, was es über sein eigenes Tun sagen kann.
Anthropic hat vor wenigen Tagen eine neue Untersuchung veröffentlicht. Die Forscher haben in Sprachmodellen wie Claude einen kleinen Bereich entdeckt, in dem Gedanken sichtbar werden. Sie nennen ihn J-Space. Dieser Bereich macht nur einen kleinen Teil der gesamten Aktivität im Modell aus. Trotzdem ist genau dieser kleine Teil entscheidend dafür, was das Modell erklären kann, worüber es nachdenkt und was sich von außen gezielt beeinflussen lässt.
Ein Beispiel macht das greifbar. Wenn ein Modell die Rechnung (4+17)×2+7 löst, taucht in seinem Inneren zuerst die Zahl 21 auf, dann 42, dann 49, bevor die Antwort erscheint. Das sind echte Zwischenschritte, keine Zufälle. Die Forscher konnten sogar einzelne Gedanken austauschen. Ersetzten sie im Inneren des Modells das Wort Spinne durch Ameise, änderte sich die Antwort auf die Frage nach der Beinzahl von acht auf sechs, obwohl die Frage selbst unverändert blieb. Das Modell denkt also etwas, das nicht genau das ist, was es am Ende sagt.