Warum KI sich manchmal verrechnet und wie Sie das vermeiden

Fast jeder, der KI eine Weile nutzt, erlebt es. Man bittet um eine Berechnung, bekommt eine flüssige Antwort mit klarer Erklärung, und beim Nachprüfen stimmt die Zahl nicht. Wie kann ein System, das in Sekunden einen Aufsatz schreibt, an einer Multiplikation scheitern, die jeder Taschenrechner fehlerfrei löst? Die Antwort liegt darin, wie ein Sprachmodell funktioniert.

Ein Sprachmodell rechnet nicht, es sagt voraus

Ein Sprachmodell ist darauf trainiert, jeweils das wahrscheinlichste nächste Textstück vorherzusagen. Für Sprache funktioniert das erstaunlich gut, denn Sprache steckt voller Muster. Rechnen ist aber kein Muster, das man erraten kann, sondern ein Verfahren, das man ausführen muss. Ein Sprachmodell führt dieses Verfahren nicht aus wie ein Taschenrechner. Es schreibt, was an dieser Stelle im Text wahrscheinlich steht.

Bei einfachen Aufgaben geht das meist gut, weil sie in den Trainingsdaten unzählige Male vorkommen. 7 x 8 = 56 hat das Modell sehr oft gesehen. Bei 4.817 x 2.396 sieht es anders aus: Diese konkrete Aufgabe kam vermutlich nie vor, also setzt das Modell die Antwort aus Bruchstücken zusammen. So entstehen Fehler, die völlig glaubwürdig aussehen.

Zahlen sind für ein Modell keine Zahlen

Hinzu kommt: Ein Sprachmodell liest keine einzelnen Ziffern, sondern Tokens, also Textstücke. Eine große Zahl wird oft in mehrere Stücke zerlegt, und wie das geschieht, hängt von der Zahl selbst ab. Für das Modell ist 4817 deshalb keine Menge, sondern eine Folge von Textfragmenten. Wie Sprachmodelle grundsätzlich arbeiten, erklärt die Seite Was ist ein LLM?

Warum die Antwort so überzeugend klingt

Das Tückische: Eine falsche Antwort wird genauso selbstsicher formuliert wie eine richtige. Das Modell hat kein eingebautes Gespür für "hier bin ich unsicher". Es schreibt eine logische Erklärung zu einem falschen Ergebnis, weil eine solche Erklärung in diesen Text passt. Es ist dieselbe Eigenschaft, die auch zu erfundenen Quellen und Fakten führt.

Wird das besser?

Ja, aber anders, als man vielleicht denkt. Neuere Modelle verrechnen sich seltener, vor allem weil sie lernen, zuerst Schritt für Schritt zu überlegen und häufiger selbst Werkzeuge einzusetzen. Am Grundprinzip ändert das nichts: Das Modell sagt weiterhin Text voraus. Gehen Sie also nicht davon aus, dass eine neuere Version plötzlich fehlerfrei rechnet, und prüfen Sie weiterhin dort, wo es darauf ankommt.

So arbeiten Sie sicher damit

• Überlassen Sie das Rechnen einem Werkzeug. Viele KI-Assistenten können einen Rechner oder ein kleines Programm nutzen, um eine Berechnung wirklich auszuführen. Bitten Sie ausdrücklich darum. Dann rechnet der Computer, und das Modell schreibt nur die Erklärung.
• Fragen Sie nach Zwischenschritten. Ein Modell, das die Rechnung Schritt für Schritt aufschreibt, macht weniger Fehler, und Sie können die Schritte nachprüfen.
• Prüfen Sie das Ergebnis. Bei allem, wovon Geld, Dosierungen oder Entscheidungen abhängen: mit Taschenrechner oder Tabellenkalkulation nachrechnen. Auch eine grobe Schätzung hilft. Stimmt die Größenordnung nicht, stimmt etwas nicht.
• Nutzen Sie KI für das Denken, nicht für das Rechnen. KI ist stark darin, eine Berechnung aufzusetzen, eine Formel zu erklären oder zu überlegen, welche Zahlen Sie brauchen. Das Ausrechnen überlassen Sie besser einem Rechner.

Weiterlernen

Wer versteht, dass ein Sprachmodell vorhersagt statt rechnet, setzt es klüger ein und vertraut ihm im richtigen Moment. Genau darum geht es bei AILogica. Beginnen Sie mit der kostenlosen Lektion Wie ein neuronales Netz funktioniert oder sehen Sie sich die Preise und Kurse an.