Wie man zeigt, dass f:Rn→R,f(x)=log[∑ni=1exi]f:Rn→R,f(x)=log⁡[∑i=1nexi]f:\mathbb{R}^n \to\mathbb{R},\quad f(x)=\log\big[\sum_{i=1}^{n}{e^{x_i}}\big] ist konvex auf domf=Rnf=Rnf= \mathbb{R}^n

Question

Wie man zeigt, dass f:Rn→R,f(x)=log[∑ni=1exi]f:Rn→R,f(x)=log⁡[∑i=1nexi]f:\mathbb{R}^n \to\mathbb{R},\quad f(x)=\log\big[\sum_{i=1}^{n}{e^{x_i}}\big] ist konvex auf domf=Rnf=Rnf= \mathbb{R}^n

Analyse
Mathematik
Lineare Algebra
Maßtheorie
konvexe Analyse
konvexe Optimierung

aberdysch

Im Moment habe ich folgendes: set $y_i=e^{x_i}\quad\Rightarrow \frac{\partial y_i}{\partial x_i}=y_i\quad \Rightarrow$

$\nabla_x f=\frac{1}{\sum_{i=1}^{n}{y_i}}[y_1\; \dots\; y_n]^\top\quad\Rightarrow$

$\nabla_x^2f_{ij}=\begin{cases} \frac{1}{\big(\sum_{k=1}^{n}{y_k}\big)^2}y_i(\sum_{k=1}^{n}{y_k}-y_i), &\forall\; i=j\\ -\frac{1}{\big(\sum_{k=1}^{n}{y_k}\big)^2}y_iy_j, & \forall\; i\neq j \end{cases}$

Das muss ich jetzt zeigen $\nabla_x^2f$ ist positiv semidefinit, aber ich stecke hier fest. Auch Bedingungen erster Ordnung und direkter Beweis per Definition der Konvexität versucht, aber auch dort hängengeblieben.

Benutzer228113

Was ist

e_{i}^{x}

$e_i^x$ ? Meinten Sie

e^{x_{i}}

$e^{x_i}$ ?

aberdysch

ja, habe das korrigiert.

Kardinal

Ich habe in Boyd gelesen, dass die Summe konvexer Funktionen konvex ist, ich meine, dass die Summation die Konvexität bewahrt, was leicht zu zeigen ist. Außerdem gibt es ein weiteres Merkmal, das besagt, dass log (eine konvexe Funktion) auch konvex ist. Sie können sie auf Boyd Book finden.

Michael Grant

Das ist falsch, der Logarithmus einer konvexen Funktion ist nicht unbedingt konvex.

A.Γ.

@Cardinal Einfaches Gegenbeispiel:

f (x) = x

$f(x)=x$ ist konvex, aber

\ln (x)

$\ln(x)$ ist nicht. Sie scheinen an log-konvexe Funktionen zu denken .

Kardinal

@AG Du meinst, es ist konkav? f(x)=x ist in Ihrem Kontext jedoch nicht konvex und muss als affine Funktion betrachtet werden

Kardinal

@AG Ich meinte, konvex und konkav sind relativ. Ich meine - konvex = konkav

Michael Grant

@Kardinal

f (x) = x

$f(x)=x$ ist mit Sicherheit konvex. Es ist natürlich auch konkav und affin.

Michael Grant

Aber gut, noch ein Gegenbeispiel:

f (x) = x^{2}

$f(x)=x^2$ . Sein Logarithmus ist nicht konvex.

Kardinal

OK du hast recht. vergiss niemals konvex und konkav unterscheiden sich nur durch ein einziges Minus. Konvexität lässt sich also leicht durch Konkavität beweisen. Lasst diese blöde Diskussion hier ausklingen

A.Γ.

Der Beweis kann in einer Zeile geführt werden, wenn man annimmt, dass die Summe von log-konvex log-konvex ist. Beachten Sie das jeweils

e^{x_{i}}

$e^{x_i}$ ist log-konvex. Die Aussage über die Summe zu beweisen ist etwas länger (dauert mehrere Zeilen). Siehe Satz 6.3.4., Teil (e) mit dem Beweis auf der nächsten Seite.

aberdysch

@AG-Seiten, auf die Sie verwiesen haben, werden nicht angezeigt

A.Γ.

@hsydreba ok, Skizze:

f, g

$f,g$ log-konvex, dh

f = e^{F}

$f=e^F$ ,

g = e^{G}

$g=e^G$ für konvex

F, G

$F,G$ . Wir müssen beweisen

\ln (f + g) = \ln (e^{F} + e^{G})

$\ln(f+g)=\ln(e^F+e^G)$ konvex, aber es ist die Zusammensetzung von konvex und zunehmend in jedem Argument

\ln (e^{x_{1}} + e^{x_{2}})

$\ln(e^{x_1}+e^{x_2})$ und konvex

F, G

$F,G$ , also konvex (die Kompositionsregel).

Jean Marie

Hier solltest du mal vorbeischauen

Antworten (3)

Wie man zeigt, dass f:Rn→R,f(x)=log[∑ni=1exi]f:Rn→R,f(x)=log⁡[∑i=1nexi]f:\mathbb{R}^n \to\mathbb{R},\quad f(x)=\log\big[\sum_{i=1}^{n}{e^{x_i}}\big] ist konvex auf domf=Rnf=Rnf= \mathbb{R}^n

Ich habe in Boyd gelesen, dass die Summe konvexer Funktionen konvex ist, ich meine, dass die Summation die Konvexität bewahrt, was leicht zu zeigen ist. Außerdem gibt es ein weiteres Merkmal, das besagt, dass log (eine konvexe Funktion) auch konvex ist. Sie können sie auf Boyd Book finden.
Das ist falsch, der Logarithmus einer konvexen Funktion ist nicht unbedingt konvex.
@Cardinal Einfaches Gegenbeispiel: $f(x)=x$ ist konvex, aber $\ln(x)$ ist nicht. Sie scheinen an log-konvexe Funktionen zu denken .
@AG Du meinst, es ist konkav? f(x)=x ist in Ihrem Kontext jedoch nicht konvex und muss als affine Funktion betrachtet werden
@AG Ich meinte, konvex und konkav sind relativ. Ich meine - konvex = konkav
@Kardinal $f(x)=x$ ist mit Sicherheit konvex. Es ist natürlich auch konkav und affin.
Aber gut, noch ein Gegenbeispiel: $f(x)=x^2$ . Sein Logarithmus ist nicht konvex.
OK du hast recht. vergiss niemals konvex und konkav unterscheiden sich nur durch ein einziges Minus. Konvexität lässt sich also leicht durch Konkavität beweisen. Lasst diese blöde Diskussion hier ausklingen
Der Beweis kann in einer Zeile geführt werden, wenn man annimmt, dass die Summe von log-konvex log-konvex ist. Beachten Sie das jeweils $e^{x_i}$ ist log-konvex. Die Aussage über die Summe zu beweisen ist etwas länger (dauert mehrere Zeilen). Siehe Satz 6.3.4., Teil (e) mit dem Beweis auf der nächsten Seite.
@AG-Seiten, auf die Sie verwiesen haben, werden nicht angezeigt
@hsydreba ok, Skizze: $f,g$ log-konvex, dh $f=e^F$ , $g=e^G$ für konvex $F,G$ . Wir müssen beweisen $\ln(f+g)=\ln(e^F+e^G)$ konvex, aber es ist die Zusammensetzung von konvex und zunehmend in jedem Argument $\ln(e^{x_1}+e^{x_2})$ und konvex $F,G$ , also konvex (die Kompositionsregel).

Michael Grant · Answer 1

Definieren $S=\sum_i y_i$ ; Dann

\nabla^{2} F (X) = S^{- 2} (S diag (j) - j j^{T})

$\nabla^2 f(x) = S^{-2} ( S \mathop{\textrm{diag}}(y) - yy^T )$ Jetzt zeigen wir das

\nabla^{2} f (x) ⪰ 0

$\nabla^2 f(x) \succeq 0$ ; oder äquivalent dazu

v^{T} (\nabla^{2} f (x)) v \geq 0

$v^T\left(\nabla^2 f(x)\right) v \geq 0$ für alle

v \in R^{n}

$v\in\mathbb{R}^n$ . Wir haben

S^{2} v^{T} (\nabla^{2} F (X)) v = v^{T} (S diag (j) - j j^{T}) v = \sum_{ich} j_{ich} \cdot \sum_{ich} j_{ich} v_{ich}^{2} - {(\sum_{ich} j_{ich} v_{ich})}^{2}

$S^2 v^T (\nabla^2 f(x) ) v = v^T (S \mathop{\textrm{diag}}(y) - yy^T) v = \sum_i y_i \cdot \sum_i y_i v_i^2 - \left(\sum_i y_i v_i\right)^2$ Diese Größe ist nichtnegativ. Um zu sehen, warum, definieren Sie

z_{i} = y_{i}^{1 / 2}

$z_i=y_i^{1/2}$ Und

w_{i} = y_{i}^{1 / 2} v_{i}

$w_i=y_i^{1/2}v_i$ ,

i = 1, 2, \dots, n

$i=1,2,\dots, n$ . Dann

\sum_{ich} j_{ich} v_{ich} = \sum_{ich} z_{ich} w_{ich} \leq “ z “_{2} “ w “_{2}

$\sum_i y_i v_i = \sum_i z_i w_i \leq \|z\|_2 \|w\|_2$ durch die Cauchy-Schwarz-Ungleichung. Wir haben beide Seiten quadriert

{(\sum_{ich} j_{ich} v_{ich})}^{2} \leq (\sum_{ich} z_{ich}^{2}) (\sum_{ich} w_{ich}^{2}) = (\sum_{ich} j_{ich}) (\sum_{ich} j_{ich} v_{ich}^{2})

$\left(\sum_i y_i v_i\right)^2 \leq \left( \sum_i z_i^2 \right) \left( \sum_i w_i^2 \right) = \left( \sum_i y_i \right) \left( \sum_i y_i v_i^2 \right)$ Was das feststellt

\sum_{ich} j_{ich} v_{ich}^{2} - {(\sum_{ich} j_{ich} v_{ich})}^{2} \geq 0 ⟹ v^{T} (\nabla^{2} F (X)) v \geq 0

$\sum_i y_i v_i^2 - \left(\sum_i y_i v_i\right)^2 \geq 0 \quad\Longrightarrow\quad v^T(\nabla^2 f(x))v \geq 0$ Das Hessische ist überall positiv semidefinit. Beachten Sie, dass es nicht positiv definit ist;

\nabla^{2} f (x) \vec{1} = 0

$\nabla^2 f(x)\vec{1}=0$ für alle

x

$x$ . Diese Funktion ist also nicht streng konvex; nur "einfach alt" konvex. :-)

Eine Anmerkung : $diag(V)-VV^T$ (der Fall $S=1$ ) ist die Varianzmatrix der Multinomialverteilung.

zw. · Answer 2

Skizze: Let $a,b\in \mathbb {R}^n.$ Zum Zeigen reicht es $f(a+tb)$ ist eine konvexe Funktion von $t\in \mathbb {R}.$ Differenziere dies zweimal bzgl $t$ dies zu sehen, läuft auf Zeigen hinaus

(\sum_{k = 1}^{N} e^{A_{k} + T B_{k}}) (\sum_{k = 1}^{N} B_{k}^{2} e^{A_{k} + T B_{k}}) \geq (\sum_{k = 1}^{N} B_{k} e^{A_{k} + T B_{k}})^{2} .

$(\sum_{k=1}^{n}e^{a_k + tb_k})(\sum_{k=1}^{n}b_k^2e^{a_k + tb_k}) \ge (\sum_{k=1}^{n}b_ke^{a_k + tb_k})^2.$

Diese Ungleichheit kann als angesehen werden

μ (E) \int_{E} F^{2} D μ \geq (\int_{E} F D μ)^{2}

$\mu(E)\int_E f^2\,d\mu \ge (\int_E f\,d\mu)^2$

für die richtige Auswahl dieser Symbole.

A.Γ. · Answer 3

Noch ein weiterer Ansatz für diejenigen, die "schmutzige" Arbeit vermeiden möchten $n\times n$ Hessen. Zuerst machen wir eine Bemerkung

Anmerkung: Es ist leicht zu erkennen, dass die Funktion $g(t)=\ln(e^t+1)$ ist konvex und zunehmend ( $g'(t)\ge 0$ Und $g''(t)\ge 0$ ). Also die Funktion $g\circ F$ ist konvex für jede konvexe $F$ .

Beweisen wir die Konvexität durch Induktion über die Dimension.

Base $n=2$ : die Funktion

H_{2} (X) = \ln (e^{X_{1}} + e^{X_{2}}) = \ln ((e^{X_{1} - X_{2}} + 1) e^{X_{2}}) = \ln (e^{X_{1} - X_{2}} + 1) + X_{2}

$h_2(x)=\ln(e^{x_1}+e^{x_2})=\ln\Bigl((e^{x_1-x_2}+1)e^{x_2}\Bigr)=\ln(e^{x_1-x_2}+1)+x_2$ durch die obige Bemerkung wo konvex ist

F (x) = x_{1} - x_{2}

$F(x)=x_1-x_2$ .

Schritt $n-1$ Zu $n$ : machen Sie den gleichen Trick mit $x_n$

\begin{aligned} H_{N} (X) & = \ln (e^{X_{1}} + \dots + e^{X_{N - 1}} + e^{X_{N}}) = \\ = \ln (e^{X_{1} - X_{N}} + \dots + e^{X_{N - 1} - X_{N}} + 1) + X_{N} = \\ = \ln (e^{\ln (e^{X_{1} - X_{N}} + \dots + e^{X_{N - 1} - X_{N}})} + 1) + X_{N} . \end{aligned}

$\begin{align} h_n(x)&=\ln(e^{x_1}+\ldots+e^{x_{n-1}}+e^{x_n})=\\ &=\ln(e^{x_1-x_n}+\ldots+e^{x_{n-1}-x_n}+1)+x_n=\\ &=\ln(e^{\ln(e^{x_1-x_n}+\ldots+e^{x_{n-1}-x_n})}+1)+x_n. \end{align}$ Nach der gleichen Bemerkung oben ist diese Funktion konvex, wenn

\ln (e^{x_{1} - x_{n}} + \dots + e^{x_{n - 1} - x_{n}})

$\ln(e^{x_1-x_n}+\ldots+e^{x_{n-1}-x_n})$ ist konvex. Aber letzteres ist

h_{n - 1} (A x)

$h_{n-1}(Ax)$ Wo

A = [\begin{matrix} 1 & 0 & \dots & 0 & - 1 \\ 0 & 1 & \dots & 0 & - 1 \\ ⋮ & ⋮ & ⋱ & ⋮ & ⋮ \\ 0 & 0 & \dots & 1 & - 1 \end{matrix}]

$A=\left[\matrix{ 1 & 0 & \ldots & 0 & -1\\ 0 & 1 & \ldots & 0 & -1\\ \vdots & \vdots & \ddots & \vdots & \vdots\\ 0 & 0 & \ldots & 1 & -1 }\right]$ das ist eine Überlagerung von konvex und affin, was konvex ist.

Wie man zeigt, dass f:Rn→R,f(x)=log[∑ni=1exi]f:Rn→R,f(x)=log⁡[∑i=1nexi]f:\mathbb{R}^n \to\mathbb{R},\quad f(x)=\log\big[\sum_{i=1}^{n}{e^{x_i}}\big] ist konvex auf domf=Rnf=Rnf= \mathbb{R}^n

aberdysch

Benutzer228113

aberdysch

Kardinal

Michael Grant

A.Γ.

Kardinal

Kardinal

Michael Grant

Michael Grant

Kardinal

A.Γ.

aberdysch

A.Γ.

Jean Marie

Antworten (3)

Michael Grant

aberdysch

Jean Marie

zw.

A.Γ.

Michael Grant

aberdysch

Impliziert Radon-Nikodym den Riesz-Darstellungssatz?

Äquivalente Definitionen von Borel σσ\sigma-Algebra

Finde lim infn→∞Anlim infn→∞An\liminf _{n \to \infty}A_n und lim supn→∞Anlim supn→∞An\limsup_{n \to \infty}A_n

Schreiben Sie nnn - Tupel als Menge auf

Suchen Sie ein Set wie das fette Cantor-Set?

Beispiel einer kopositiven Matrix, aber weder positiv semidefinit noch elementweise nichtnegativ?

Axiomatische Erklärung dafür, warum das Volumen eines Parallelepipeds gleich der Fläche seiner Grundfläche mal seiner Höhe ist

Skalierung des Lebesgue-Maß unter einer linearen Transformation und dem Volumen eines Parallelepipeds.

Beweisen Sie, dass jeder Strahl ein Polyeder ist

Borel-Messbarkeit