Entscheidungsfunktion

Eine Entscheidungsfunktion ist ein Begriff aus der mathematischen Statistik, dem Teilbereich der Statistik, der sich der Methoden der Wahrscheinlichkeitstheorie bedient. Man unterscheidet zwischen nichtrandomisierten Entscheidungsfunktionen, bei denen jeder Beobachtung eine eindeutige Entscheidung zugeordnet wird, und randomisierten Entscheidungsfunktionen, bei denen die Wahl der Entscheidung noch vom Zufall abhängig ist. Entscheidungsfunktionen werden im Rahmen von statistischen Entscheidungsproblemen verwendet. Diese umfassen sowohl Testprobleme als auch Schätzprobleme und die Bestimmung von Konfidenzintervallen mittels Bereichsschätzern.

Eng verbunden mit der Entscheidungsfunktion ist die Verlustfunktion, die nach Treffen einer Entscheidung den Verlust bezüglich der getroffenen Entscheidung angibt, wenn der reale, aber unbekannte Wert von dieser Entscheidung abweicht. Entscheidungsfunktion und Verlustfunktion werden dann zur Risikofunktion kombiniert, die den potentiellen Verlust bei Verwendung einer gegebenen Entscheidungsfunktion angibt.

Definition

Gegeben sei ein statistisches Modell $(X,{\mathcal {A}},{\mathcal {P}})$ und ein Entscheidungsraum $(\Omega ,\Sigma )$.

Nichtrandomisierte Entscheidungsfunktion

Dann wird im Rahmen der mathematischen Statistik eine Funktion $d\colon X\to \Omega$, die ${\mathcal {A}}$-$\Sigma$-messbar ist, eine nichtrandomisierte Entscheidungsfunktion genannt. Die Menge aller nichtrandomisierten Entscheidungsfunktionen wird mit $D$ bezeichnet.

Randomisierte Entscheidungsfunktion

Eine randomisierte Entscheidungsfunktion ist dann ein Markow-Kern $\delta (x,S)$ von $(X,{\mathcal {A}})$ nach $(\Omega ,\Sigma )$, das heißt für $\delta \colon X\times \Sigma \to [0,1]$ gilt:

• Für jedes $x\in X$ ist $\delta (x,\;\cdot \;)$ ein Wahrscheinlichkeitsmaß auf $(\Omega ,\Sigma )$.
• Für jedes $S\in \Sigma$ ist $\delta (\;\cdot \;,S)$ eine ${\mathcal {A}}$-messbare Funktion.

$\delta (x,S)$ ist dann die Wahrscheinlichkeit, bei der Beobachtung von $x$ eine Entscheidung aus der Menge $S$ zu treffen. Die Menge aller randomisierten Entscheidungsfunktionen wird mit ${\mathcal {D}}$ bezeichnet.

Darstellung von nichtrandomisierten Entscheidungsfunktionen

Jede nichtrandomisierte Entscheidungsfunktion $d$ lässt sich auf natürliche Weise als randomisierte Entscheidungsfunktion darstellen. Dazu definiert man den Markow-Kern als

$\delta _{d}(x,A)={\begin{cases}1&{\text{ falls }}d(x)\in A\\0&{\text{ falls }}d(x)\notin A\end{cases}}$.

Bezeichnet man mit $\Delta _{x}$ das Diracmaß, so lässt sich der Markow-Kern noch kompakter schreiben als

$\delta _{d}(x,A):=\Delta _{\{d(x)\}}(A)$.

Damit lässt sich $D$ surjektiv in ${\mathcal {D}}$ einbetten. Jede nichtrandomisierte Entscheidungsfunktion ist somit nur ein Spezialfall einer randomisierten Entscheidungsfunktion.

Beispiel

Zu jeder der drei Klassen von statistischen Entscheidungsproblemen lassen entsprechende Entscheidungsfunktionen angeben. So sind klassische Entscheidungsfunktionen die Punktschätzer beispielsweise zur Bestimmung eines unbekannten Parameters, die Intervallschätzer zur Bestimmung eines Konfidenzintervalls und die statistischen Tests.

Punktschätzer

Betrachtet man beispielsweise das Produktmodell $(\{0,1\}^{100},{\mathcal {P}}(\{0,1\})^{100},(\operatorname {Ber_{\vartheta }} ^{\otimes n})_{\vartheta \in [0,1]})$, welches einen 100-maligen Münzwurf modelliert, und wählt als Grundmenge für den Entscheidungsraum den Parameterraum $\Theta =[0,1]$ und als σ-Algebra die entsprechende Borelsche σ-Algebra ${\mathcal {B}}([0,1])$, so ist das Stichprobenmittel

$M:\{0,1\}^{100}\to [0,1],\quad M(\omega )={\frac {1}{100}}\sum _{i=1}^{100}\omega _{i}$

eine Entscheidungsfunktion, die jedem Ausgang des Experiments, der aus einer 100-stelligen Folge von Nullen und Einsen besteht, die Entscheidung für einen geschätzten Parameter $\vartheta$ der Bernoulli-Verteilung zuordnet. Es handelt sich hierbei um eine nichtrandomisierte Entscheidungsfunktion.

Reduktion auf stark suffiziente σ-Algebren

Jede Entscheidungsfunktion lässt sich im folgenden Sinne reduzieren: ist ${\mathcal {S}}\subset {\mathcal {A}}$ eine stark suffiziente σ-Algebra (was für borelsche Räume $(X,{\mathcal {A}})$ mit einer suffizienten σ-Algebra im herkömmlichen Sinne übereinstimmt), so kann die Entscheidungsfunktion $\delta (x,S)$ von $(X,{\mathcal {A}})$ nach $(\Omega ,\Sigma )$ durch eine Entscheidungsfunktion $\delta ^{*}(x,{\tilde {S}})$ von $(X,{\mathcal {S}})$ nach $(\Omega ,\Sigma )$ ersetzt werden, so dass für die Risikofunktion

$R(\vartheta ,\delta )=R(\vartheta ,\delta ^{*}){\text{ für alle }}\vartheta \in \Theta$

gilt. Die stark suffiziente σ-Algebra enthält also bereits alle für die Risikoabschätzung nötigen Informationen.

Optimale Entscheidungsfunktionen

Es existieren unterschiedliche Optimalitätskriterien für Entscheidungsfunktionen, die teils auf der Ordnungstheorie, teils auch auf der Spieltheorie aufbauen.

Zulässige Entscheidungsfunktionen

Mittels der Risikofunktion $R_{\delta }(\vartheta )$ lässt sich eine Ordnungsrelation zwischen den Entscheidungsfunktionen definieren durch

$\delta _{1}\preceq \delta _{2}{\text{ genau dann, wenn }}R_{\delta _{1}}(\vartheta )\leq R_{\delta _{1}}(\vartheta ){\text{ für alle }}\vartheta \in \Theta$.

Gilt $\delta _{1}\preceq \delta _{2}$ und $\delta _{1}\succeq \delta _{2}$, so nennt man $\delta _{1}$ und $\delta _{2}$ äquivalent und schreibt $\delta _{1}\sim \delta _{2}$.

Ist nun ${\tilde {D}}\subset {\mathcal {D}}$ eine Teilmenge der Entscheidungsfunktionen, so heißt eine Entscheidungsfunktion $\delta _{0}$ zulässig bezüglich ${\tilde {D}}$, wenn für jede weitere Entscheidungsfunktion $\delta _{1}$ mit $\delta _{1}\preceq \delta _{0}$ gilt, dass $\delta _{1}\sim \delta _{0}$ ist.

Die zulässigen Entscheidungsfunktionen sind somit die minimalen Elemente der Menge ${\tilde {D}}$ bezüglich der Ordnungsrelation $\preceq$.

Minimax-Entscheidungsfunktionen

Eine Entscheidungsfunktion $\delta _{0}$ heißt eine Minimax-Entscheidungsfunktion bezüglich der Menge ${\tilde {D}}\subset {\mathcal {D}}$, wenn

$\sup _{\vartheta \in \Theta }R(\vartheta ,\delta _{0})=\inf _{\delta \in {\tilde {D}}}\sup _{\vartheta \in \Theta }R(\vartheta ,\delta )$

gilt. Die Minimax-Entscheidungsfunktionen entsprechen einer Minimax-Strategie für einen Spieler mit Strategiemenge ${\tilde {D}}$ gegen einen Spieler mit Strategiemenge $\Theta$ in einem Zwei-Personen-Nullsummenspiel mit der Risikofunktion als Auszahlungsfunktion.

Bayes-Entscheidungsfunktionen

Ist $r(\mu ,\delta )$ das Bayes-Risiko der Entscheidungsfunktion $\delta$ bezüglich der a-priori-Verteilung $\mu$, so heißt eine Entscheidungsfunktion $\delta _{0}$ eine Bayes-Entscheidungsfunktion bezüglich der a-priori-Verteilung $\mu$, wenn

$r(\mu ,\delta _{0})\leq r(\mu ,\delta )$

für alle $\delta \in {\tilde {D}}$ gilt.

Beziehungen zwischen den Optimalitätskriterien

Folgerungen aus zulässigen Entscheidungsfunktionen

• Ist die Entscheidungsfunktion zulässig und ein Egalisator, so ist sie eine Minimax-Entscheidungsfunktion.

Folgerungen aus Minimax-Entscheidungsfunktionen

• Ist $\delta _{0}$ Minimax-Entscheidungsfunktion und ist $\mu _{0}$ eine ungünstigste a-priori-Verteilung, so ist $\delta _{0}$ eine Bayes-Entscheidungsfunktion bezüglich $\mu _{0}$ und $(\delta _{0},\mu _{0})$ ist ein Sattelpunkt des Bayes-Risikos.
• Ist die Minimax-Entscheidungsfunktion eindeutig, so ist sie auch zulässig.

Folgerungen aus Bayes-Entscheidungsfunktionen

• Ist die Bayes-Entscheidungsfunktion $\delta _{0}$ bezüglich $\mu _{0}$ eindeutig, so ist sie zulässig.
• Ist die Bayes-Entscheidungsfunktion ein Egalisator, so ist sie auch eine Minimax-Entscheidungsfunktion.