Variable Verstärkung: das Lernprinzip hinter Automaten
Beim operanten Lernen verändert sich die Wahrscheinlichkeit eines Verhaltens durch seine Folgen. Verstärkungspläne beschreiben, nach welcher Regel eine Handlung belohnt wird: nach einer festen Zahl von Reaktionen, nach wechselnden Reaktionszahlen oder nach einem Zeitintervall. Für das Verständnis von Belohnungssystemen in Glücksspielen ist besonders wichtig, ob ein Gewinn vorhersehbar ist oder nicht. Spielautomaten veranschaulichen, wie solche Verstärkungsmechanismen beim Glücksspiel in einer schnellen Folge von Einsatz, Spielhandlung und Ergebnis auftreten. Die Übertragung auf Menschen verlangt jedoch mehr als einen direkten Vergleich mit Laborversuchen an Tieren.
Feste und variable Quoten
Bei der operanten Konditionierung wird ein Verhalten durch seine Konsequenzen häufiger oder seltener. Eine Verstärkung folgt auf eine Handlung und erhöht die Wahrscheinlichkeit, dass diese Handlung erneut ausgeführt wird. Charles Ferster und B. F. Skinner systematisierten unterschiedliche Verstärkungspläne 1957 in ihrem Werk „Schedules of Reinforcement“. Die folgenden Beispiele zeigen, wie sich die Regeln unterscheiden.
- Feste Quote: Eine Verstärkung erfolgt nach einer festgelegten Zahl von Reaktionen. Bei einer Quote von fünf wäre beispielsweise jede fünfte ausgeführte Handlung verstärkt.
- Variable Quote: Die Verstärkung folgt nach einer wechselnden, nicht vorhersehbaren Anzahl von Reaktionen. Die einzelne Handlung verrät deshalb nicht, ob die nächste bereits belohnt wird.
- Festes Intervall: Eine Verstärkung wird verfügbar, nachdem eine festgelegte Zeit vergangen ist. Entscheidend ist dann die erste passende Reaktion nach diesem Zeitabschnitt.
- Variable Intervallregel: Der Zeitraum bis zur nächsten verfügbaren Verstärkung ändert sich. Wer etwa regelmäßig nach neuen Nachrichten schaut, kann nicht genau vorhersagen, wann eine erscheint.
- Spielautomaten als Beispiel: Eine Spielrunde ist eine Reaktion; ein Gewinn kann nach unterschiedlich vielen Runden auftreten. Der konkrete Abstand zwischen den verstärkten Spielhandlungen ist nicht festgelegt.
- Versuche im Labor: Skinner und Ferster untersuchten Verstärkungspläne unter anderem mit Tauben und Ratten. Die Versuchsbedingungen ließen sich kontrollieren, anders als die vielen Einflüsse des Alltags.
- Grenze der Übertragung: Menschen deuten Regeln, setzen sich Ziele und reagieren auf Geld, soziale Umstände und persönliche Erfahrungen. Tierexperimente erklären Lernmuster, bilden menschliches Glücksspiel aber nicht vollständig ab.
Der zentrale Unterschied liegt darin, ob die Verstärkung an eine vorhersehbare Anzahl von Reaktionen oder an wechselnde Bedingungen gekoppelt ist. Für Glücksspiel lässt sich daraus ein Lernprinzip ableiten, aber keine vollständige Erklärung des individuellen Spielverhaltens.
Warum unvorhersehbare Gewinne so hartnäckig machen
Bei einer variablen Quotenregel kann eine Reaktion lange ohne Verstärkung bleiben und dennoch später belohnt werden. Wenn eine Handlung auch nach mehreren erfolglosen Versuchen gelegentlich zum Gewinn führt, ist das Ausbleiben eines Gewinns kein eindeutiges Signal dafür, dass sich weiteres Spielen nicht mehr lohnt. Genau diese Ungewissheit trägt dazu bei, dass das Verhalten nicht sofort abbricht.
In Lernexperimenten zeigen variable Quoten häufig eine hohe Reaktionsrate und einen starken Widerstand gegen Auslöschung. Mit Auslöschung ist gemeint, dass eine zuvor verstärkte Handlung keine Verstärkung mehr hervorbringt und dadurch mit der Zeit seltener wird. Bei einem unregelmäßigen Verstärkungsverlauf ist schwer zu erkennen, ob die Belohnung dauerhaft ausbleibt oder lediglich noch nicht eingetreten ist. Das kann die Abnahme des Verhaltens verzögern.
Ein Spielautomat macht diese Abfolge besonders greifbar: Eine Runde dauert oft nur Sekunden, und die nächste Spielhandlung kann unmittelbar folgen. Dadurch entstehen in kurzer Zeit viele einzelne Gelegenheiten, in denen ein Ergebnis die Fortsetzung des Spielens beeinflusst. Anders als bei einer seltenen Belohnung im Alltag liegen Spielhandlung und Ergebnis dicht beieinander; das macht die Verbindung zwischen beiden leichter wahrnehmbar, ohne dass daraus ein sicherer Gewinn für die nächste Runde folgt.
Auch schnelle digitale Glücksspiele können kurze Abstände zwischen Einsatz, Ergebnis und erneuter Entscheidung aufweisen. Die geringe Wartezeit lässt wenig äußeren Abstand zwischen den Spielhandlungen entstehen. Wenn Sie länger spielen, können einzelne Gewinne in Erinnerung bleiben, während zahlreiche nicht verstärkte Runden weniger stark gewichtet werden. Das ist ein möglicher psychologischer Mechanismus, keine feste Reaktion, die bei allen Menschen gleich auftritt.
Die variable Verstärkung erklärt damit, warum ein unregelmäßiger Belohnungsverlauf anhaltendes Antworten begünstigen kann. Sie sagt für sich genommen jedoch weder voraus, wie lange eine Person spielt, noch erklärt sie alle Risikoverhaltensweisen beim Glücksspiel; dafür sind weitere individuelle und situative Faktoren bedeutsam.
Vergleichstabelle: Verstärkungspläne
Die drei Pläne unterscheiden sich danach, ob eine feste Reaktionszahl, eine wechselnde Reaktionszahl oder ein Zeitabstand maßgeblich ist.
| Plan | Regel | Typisches Verhalten | Alltagsbeispiel |
|---|---|---|---|
| Feste Quote | Verstärkung nach einer festgelegten Zahl von Reaktionen | Reaktionen häufen sich oft, wenn die nächste Verstärkung näher rückt | Stücklohn für eine festgelegte Zahl fertiggestellter Teile |
| Variable Quote | Verstärkung nach einer wechselnden, nicht vorhersehbaren Zahl von Reaktionen | Häufige, relativ gleichmäßige Reaktionen; Verhalten kann lange anhalten | Spielautomat, bei dem die Zahl der Spielrunden bis zu einem Gewinn wechselt |
| Festes Intervall | Verstärkung nach Ablauf eines festgelegten Zeitraums, sofern danach reagiert wird | Mehr Reaktionen kurz vor dem erwarteten Zeitpunkt | Regelmäßige Kontrolle, ob eine angekündigte Wochenmitteilung eingetroffen ist |
Bei Quotenplänen zählt die Zahl der Reaktionen; beim Intervallplan zählt der Zeitverlauf. Das unterscheidet die Regeln unabhängig davon, ob die Verstärkung aus Geld, einer Rückmeldung oder einem anderen Ergebnis besteht.
Dopamin: Signal der Erwartung, nicht der Freude
Dopamin und Glücksspiel werden oft unmittelbar mit dem Gefühl eines Gewinns verknüpft. In der Forschung beschreibt Dopamin jedoch auch Signale, die Erwartungen anpassen und künftiges Verhalten beeinflussen. Entscheidend ist dabei, wie ein tatsächliches Ergebnis im Verhältnis zu einer zuvor gebildeten Erwartung steht. Dieses Verhältnis lässt sich als Vorhersagefehler beschreiben und hilft zu erklären, wie aus Erfahrungen neue Erwartungen entstehen. Es ist aber keine vollständige Erklärung für Spielverhalten oder Abhängigkeit.
Der Vorhersagefehler
Der Reward Prediction Error bezeichnet die Abweichung zwischen einem erwarteten und einem tatsächlich erhaltenen Ergebnis. Vereinfacht lässt sich das Signal als δ = Ergebniswert − Erwartungswert darstellen. Ein positiver Wert bedeutet, dass das Ergebnis besser ausfällt als erwartet; ein Wert nahe null zeigt eine Übereinstimmung; ein negativer Wert steht für ein schlechteres Ergebnis oder eine ausgebliebene Belohnung. Die Formel beschreibt ein Lernsignal, keine bewusste Rechnung, die Sie während des Spiels anstellen.
Wolfram Schultz, Peter Dayan und Read Montague formulierten 1997 in der Fachzeitschrift Science ein einflussreiches Modell, nach dem Aktivitätsänderungen dopaminerger Nervenzellen solche Vorhersagefehler abbilden können. In ihren Untersuchungen an Affen reagierten diese Zellen zunächst auf eine unerwartete Belohnung. Nachdem ein Hinweisreiz die Belohnung zuverlässig angekündigt hatte, verlagerte sich die Aktivitätsreaktion zunehmend auf den Hinweisreiz. Das Ergebnis selbst brachte dann weniger zusätzliche Reaktion hervor, sofern es wie erwartet eintrat.
Die drei Fälle unterscheiden sich nach dem Vergleich mit der Erwartung. Fällt ein Ergebnis besser aus als erwartet, entsteht ein positiver Vorhersagefehler: Eine überraschend hohe Auszahlung wäre ein anschauliches Beispiel. Entspricht das Ergebnis der Erwartung, ist der Fehler annähernd null; das angekündigte Ergebnis liefert dann wenig neue Information. Bleibt eine erwartete Belohnung aus oder fällt sie geringer aus, ist der Fehler negativ. Bei einem erwarteten Gewinn kann das Ausbleiben einer Auszahlung daher eine Verringerung der dopaminergen Aktivität auslösen.
Für das Lernen zählt nicht nur, ob Geld gewonnen wird, sondern auch, wie überraschend das Ergebnis im Verhältnis zur vorherigen Erwartung ist. Ein Gewinn von acht Einheiten kann bei einer Erwartung von fünf Einheiten einen positiven Fehler ergeben; bei einer Erwartung von zehn Einheiten wäre derselbe Betrag negativ. Diese Zahlen veranschaulichen lediglich den Vergleich und sind keine Messwerte aus einer Studie. Im Glücksspiel hängen Erwartungen unter anderem davon ab, welche Wahrscheinlichkeiten und Ergebnisse eine Person gelernt oder angenommen hat.
Der Mechanismus verknüpft Erleben mit Antizipation: Ein Signal, das wiederholt einem Ergebnis vorausgeht, kann selbst Bedeutung für die Erwartung gewinnen. Das dopaminerge Signal unterstützt damit Anpassungen daran, welche Hinweise künftig beachtet und welche Handlungen erneut gewählt werden. Schultz, Dayan und Montague (1997) lieferten dafür ein grundlegendes Modell, aber keinen Beleg dafür, dass jede dopaminerge Reaktion bei jedem Glücksspiel genau einem einzelnen Vorhersagefehler entspricht. Die beteiligten Hirnregionen und Signale sind vielfältiger als eine einfache Gewinnreaktion.
Was Dopamin beim Glücksspiel nicht erklärt
Einige verbreitete Deutungen machen aus einem komplexen Lernsignal eine einfache Ursache. Die folgenden Missverständnisse verwechseln unterschiedliche Prozesse:
- „Glückshormon“: Die Bezeichnung ist irreführend, weil Dopamin im Gehirn vor allem als Botenstoff an Lern- und Motivationsprozessen beteiligt ist, nicht als einzelner chemischer Schalter für Glück.
- Alleinige Ursache der Sucht: Dopamin ist nicht der einzige Faktor einer Abhängigkeit; biologische Voraussetzungen, psychische Belastungen und soziale Lebensbedingungen können ebenfalls eine Rolle spielen.
- Direkte Freude: Eine dopaminerge Reaktion belegt nicht automatisch, dass eine Person einen Gewinn besonders genießt; Erwartung, Aufmerksamkeit und Lernrelevanz sind davon zu unterscheiden.
- Eindeutiger Beweis durch Hirnbilder: Bildgebende Befunde zeigen Zusammenhänge zwischen Hirnaktivität und Aufgaben, legen aber nicht allein fest, ob Dopamin eine Glücksspielstörung verursacht.
- Einheitliche Reaktion bei allen Spielenden: Messwerte hängen unter anderem von Aufgabe, Erwartung und individueller Vorgeschichte ab; ein einzelnes Ergebnis erlaubt keine sichere Aussage über jede Person.
Bildgebende Verfahren erfassen zudem nicht einfach „Dopamin“ als direkt sichtbares Bild. Die funktionelle Magnetresonanztomografie misst Veränderungen des Blut-Sauerstoff-Signals, während die Positronen-Emissions-Tomografie indirekte Hinweise über geeignete Tracer liefern kann. Solche Befunde können Unterschiede zwischen Situationen oder Gruppen sichtbar machen, doch daraus folgt keine eindeutige Kausalerklärung. Auch der Einfluss von Dopamin auf Glücksspielsucht lässt sich daher nicht aus einem Hirnbild allein ableiten.
Der Fastgewinn (Near Miss)
Ein Fastgewinn wirkt auf den ersten Blick wie ein Schritt zum Ziel, obwohl der Spielausgang objektiv ein Verlust bleibt. Für die Beurteilung ist deshalb entscheidend, was tatsächlich auf dem Bildschirm erscheint und was Spieler daraus ableiten. Reid (1986) prägte den Begriff Near Miss für solche Beinahe-Treffer. Eine Untersuchung von Clark und Kollegen aus dem Jahr 2009 prüfte, wie solche Ergebnisse bewertet werden und ob sie den Wunsch nach einer weiteren Spielrunde beeinflussen.
Was als Near Miss zählt
Ein Near Miss, auf Deutsch Beinahe-Treffer oder Fastgewinn, liegt vor, wenn ein Spielergebnis einem Gewinnbild auffällig nahekommt, aber die Gewinnbedingung verfehlt. Reid (1986) verwendete den Begriff für diese besondere Form eines Verlusts. An einem Automaten lässt sich der Unterschied konkret erkennen:
- Auf einer Gewinnlinie erscheinen zwei gleiche Symbole, etwa zwei Kirschen, während das dritte Symbol knapp oberhalb oder unterhalb der Linie stoppt.
- Die sichtbare Nähe zum passenden Symbol erzeugt den Eindruck, es habe nur wenig zum Treffer gefehlt; für die Auszahlung zählt jedoch allein die festgelegte Kombination.
- Bleibt das dritte Symbol außerhalb der Gewinnlinie, ist das Ergebnis kein kleinerer Gewinn und keine teilweise Auszahlung, sondern ein Verlust des Einsatzes.
- Die räumliche Nähe kann trotzdem Fortschritt suggerieren: Das Auge vergleicht die angezeigten Symbole, obwohl das Ergebnis der Drehung bereits feststeht.
- Ein Fastgewinn beschreibt somit die Wahrnehmung eines knappen Verfehlens, nicht eine objektiv messbare Annäherung an den nächsten Gewinn.
Die Unterscheidung zwischen Anzeige und Auszahlung ist zentral: Ein Fastgewinn beim Glücksspiel verändert weder die Gewinnregel noch die Wahrscheinlichkeit des nächsten Ergebnisses. Bei einem unabhängig bestimmten Drehvorgang erzeugen zwei Symbole auf einer Linie keine erhöhte Chance, dass die nächste Runde einen Treffer bringt. Die Darstellung kann subjektiv wie ein Hinweis auf eine beinahe gelungene Kombination wirken; rechnerisch bleibt sie ein Verlust. Reid (1986) lieferte damit einen Begriff für ein Ergebnis, dessen visuelle Nähe zum Gewinn und sein tatsächlicher Spielwert auseinanderfallen.
Was die Studie von Clark und Kollegen zeigte
Clark und Kollegen untersuchten den Near-Miss-Effekt 2009 in der Fachzeitschrift Neuron mit einer vereinfachten Aufgabe nach dem Muster eines Spielautomaten. Während der Versuchspersonen eine funktionelle Bildgebung des Gehirns aufgezeichnet wurde, sahen sie Spielausgänge, die als Treffer, gewöhnliche Verluste oder knappe Verfehlungen gestaltet waren. Die Forschenden erfassten sowohl die Bewertungen der Ergebnisse als auch, ob die Teilnehmenden anschließend weiterspielen wollten. Ein Teil der Aufgabe vermittelte den Personen eigene Kontrolle über den Ablauf, während in einer anderen Bedingung der Computer den entscheidenden Vorgang bestimmte.
Die Near Misses wurden nicht als angenehmere Ergebnisse erlebt als volle Verluste. In den Bewertungen wirkten sie vielmehr mindestens ebenso negativ, teils sogar unangenehmer. Dennoch stieg nach einem solchen Ausgang der Wunsch, eine weitere Runde zu spielen. Dieser Gegensatz ist für die Interpretation wichtig: Die Versuchspersonen berichteten nicht, einen Fastgewinn tatsächlich als Auszahlung erhalten zu haben; die knappe Verfehlung beeinflusste vielmehr ihre Bereitschaft, das Spiel fortzusetzen.
Bei der Bildgebung zeigte sich bei Near Misses eine stärkere Aktivität in Bereichen, die mit der Verarbeitung von Spielergebnissen und ihrer Bedeutung für das Verhalten in Verbindung stehen, darunter das Striatum und die Insula. Die Befunde belegen eine neuronale Reaktion auf knappe Verfehlungen, aber nicht, dass diese Bereiche allein das Weiterspielen verursachen. Die Forschenden beobachteten den Effekt besonders in der Bedingung, in der die Teilnehmenden selbst Einfluss auf den Ablauf zu haben glaubten; bei computerbestimmten Ausgängen fiel die Reaktion anders aus. Das spricht dafür, dass die wahrgenommene persönliche Kontrolle bei der Bewertung solcher Ergebnisse eine Rolle spielen kann.
Die Studienteilnehmer waren keine Problemspieler. Die Ergebnisse zeigen daher, dass Near Misses auch bei Personen ohne problematisches Glücksspielverhalten mit einem erhöhten Wunsch nach einer weiteren Runde einhergehen können. Sie belegen weder eine Diagnose noch, dass jede Person auf einen Fastgewinn gleich reagiert. Ebenso wenig ändert ein Near Miss die Gewinnwahrscheinlichkeit der nächsten Runde: Die Studie untersuchte Bewertungen, Verhaltensabsichten und begleitende Hirnaktivität, nicht eine tatsächlich verbesserte Aussicht auf einen Treffer.
Häufige Fragen zum Belohnungssystem
Die Antworten erklären, wie Belohnungserwartung und gelernte Reaktionen das Erleben von Glücksspielen prägen.
Machen Glücksspiele wie Drogen abhängig?
Glücksspiele können abhängig machen, werden aber nicht mit Drogen gleichgesetzt. Das DSM-5 von 2013 ordnet die Glücksspielstörung den Suchterkrankungen zu und führt sie als Verhaltenssucht auf. Diese Einordnung beschreibt eine Störung, nicht die Folge jedes einzelnen Spiels: Aus gelegentlichem Glücksspiel lässt sich keine Diagnose ableiten.
Warum fühlt sich ein Beinahe-Gewinn wie ein Erfolg an?
Ein Beinahe-Gewinn kann sich wie Fortschritt anfühlen, weil das Ergebnis einem Gewinn nahekommt und Belohnungsregionen im Gehirn aktiviert. Beim Near Miss beim Glücksspiel gibt es jedoch keinen tatsächlichen Gewinn: Das angezeigte Ergebnis ist ein Designelement des Spiels und kein Hinweis darauf, dass die nächste Runde erfolgreicher ausfällt.
Kann man das Belohnungslernen bewusst abschalten?
Nein, das Wissen über Belohnungslernen schaltet dessen Wirkung nicht automatisch ab. Auch wenn Sie die Mechanismen hinter Dopamin und Glücksspiel kennen, können Erwartungen und gelernte Reaktionen Ihre Aufmerksamkeit und Entscheidungen weiterhin beeinflussen. Solche Reaktionen lassen sich nicht vollständig und jederzeit bewusst abstellen; Wissen bedeutet daher keine Immunität gegen ihren Einfluss.