Warum ist die Entropie von Gas nicht unendlich, wenn unendlich viele Mikrozustände verfügbar sind?

Das Problem, an das Sie denken, ist als Frage der thermodynamischen Grobkörnung bekannt . Dies gibt Ihnen hoffentlich einen Ausdruck, nach dem Sie suchen können, um mehr zu erfahren.

Manchmal sind mögliche Zustände von Ensemblemitgliedern offensichtlich diskret, wie sie es in einer Ansammlung harmonischer Quantenoszillatoren sind. Ein Großteil der Quantenmechanik hängt davon ab, dass der zugrunde liegende Hilbert-Zustandsraum trennbar ist ( dh eine zählbare dichte Teilmenge hat), und für Hilbert-Räume entspricht dies der Behauptung, dass die Vektorbasis selbst zählbar ist. Selbst wenn also eine Observable wie Impuls oder Position ein kontinuierliches Spektrum hat ( dh eine kontinuierliche Zufallsvariable als Maß angeben kann), ist der zugrunde liegende Zustandsraum oft diskret. Im speziellen Beispiel des OPs können Sie das Gas als Partikelsystem in einer 3D-Box modellieren(Hutspitze an Benutzer knzhou für die Erinnerung an diesen Punkt), so dass der Zustandsraum der Ensemblemitglieder eindeutig diskret ist. Wenn wir das Volumen unserer Box erhöhen, steigt die Zustandsdichte (mehr in Chris 'Antwort besprochen ) proportional zum räumlichen Volumen der Box und damit auch die Entropie. Im Grenzfall eines sehr großen Gasvolumens ist die Entropie pro Volumeneinheit eine wohldefinierte, endliche Grenze.

In Fällen, in denen der Zustandsraum nicht offensichtlich diskret ist, muss entweder auf die Verwendung von grober Körnung oder relativer Entropie zurückgegriffen werden.

Grobe Körnung ist die etwas willkürliche Partitionierung des Zustandsraums der Ensemblemitglieder in diskrete Teilmengen, wobei Zustände, die zu einer bestimmten Partition gehören, dann als gleich angesehen werden. Somit wird ein kontinuierlicher Zustandsraum zu einer diskreten Näherung zusammengefasst. Viele Schlussfolgerungen der statistischen Mechanik sind gegenüber einer solchen Verklumpung unempfindlich.

Die relative Entropie im informationstheoretischen Sinne ist für eine kontinuierliche Zufallsvariable ungefähr als die Entropieänderung relativ zu einer "standardmäßigen" kontinuierlichen Zufallsvariablen definiert, z. B. einer solchen, die von einer Gaußschen Verteilung bestimmt wird. Wir sehen das Problem, mit dem Sie es zu tun haben, wenn wir naiv versuchen, die Shannon-Entropie einer kontinuierlichen Zufallsvariablen mit Wahrscheinlichkeitsverteilung zu berechnen$p(x)$als Grenzwert einer diskreten Summe:

$$S \approx -\sum\limits_i p(x_i)\,\Delta x \,\log(p(x_i)\,\Delta x) = -\log(\Delta x)\,\sum\limits_i p(x_i)\,\Delta x - \sum\limits_i p(x_i)\,\Delta x \,\log(p(x_i))\tag{1}$$

Die beiden Summen im ganz rechten Ausdruck konvergieren OK, aber wir werden durch den Faktor vereitelt$\log(\Delta x)$, was natürlich divergiert. Wenn wir jedoch die Differenz zwischen der Entropie für unsere nehmen$p(x)$und der einer "Standard"-Verteilung ergibt unsere Berechnung:

$$\Delta S \approx -\log(\Delta x)\,\left(\sum\limits_i p(x_i)\,\Delta x-\sum\limits_i q(x_i)\,\Delta x\right) - \sum\limits_i \left(p(x_i)\,\log(p(x_i))-q(x_i)\,\log(q(x_i))\right)\,\Delta x\tag{2}$$

eine Menge, die gegen konvergiert$\int\left(p\log p - q\,\log q\right)\mathrm{d}x$. Die übliche relative Entropie ist nicht ganz dieselbe wie diese Definition (siehe Artikel - die Definition wird modifiziert, um das Maß unabhängig von der Neuparametrisierung zu machen), aber dies ist die Grundidee. Oft werden die Konstanten im Grenzwert von (2) weggelassen und man sieht die Menge$-\int\,p\,\log p\,\mathrm{d}x$definiert als die uneingeschränkte (relative) Entropie der Verteilung$p(x)$.

Grobe Körnung, in dieser Berechnung wäre einfach eine Konstante zu wählen$\Delta x$in 1). (1) ist dann näherungsweise die relative Entropie$-\int \,p\,\log p\,\mathrm{d}x$um die Konstante versetzt$-\log(\Delta x)$. Daher solange:

1. Wir bleiben bei einer Konstante$\Delta x$in einer bestimmten Diskussion;
2. $\Delta x$relativ zu den Schwankungen in der Wahrscheinlichkeitsdichte klein genug ist, so dass$\sum\limits_i p(x_i)\,\Delta x \,\log(p(x_i))\approx \int p\,\log p\,\mathrm{d} p$;
3. Unsere Berechnungen und physikalischen Vorhersagen haben nur mit Unterschieden zwischen Entropien zu tun (wie es meistens der Fall ist)

dann geben die Ansätze der groben Körnung und der relativen Entropie unabhängig von der exakten identische physikalische Vorhersagen$\Delta x$gewählt.

Eine gute Übersicht dieser Ideen mit historischer Diskussion findet sich in:

Katinka Ridderbos, „Der grobkörnige Ansatz zur statistischen Mechanik: Wie glückselig ist unsere Unwissenheit?“, Studies in History and Philosophy of Modern Physics , 33 , S. 65-77, 2002

In einem kontinuierlichen System$w$wird als Integral über die möglichen Mikrozustände des Systems angenommen. Dies wird typischerweise als Zustandsdichte bezeichnet und ist ziemlich endlich. Genauer gesagt ist es so etwas wie

$$w(E)=\mathcal N\int d^{3N}x~d^{3N}p~\delta(E-\epsilon(\vec p,\vec x))$$

wo$\epsilon(\vec p,\vec x)$ist die Energie des Systems als Funktion aller Impulse und Positionen,$\delta$ist eine Deltafunktion, die die Energie des Systems festlegt und$\mathcal N$ist eine gewisse Normalisierung.

Dies hinterlässt einige Unklarheiten (nämlich bei der Normalisierung), aber das Verhältnis von$w$zwischen zwei Zuständen ist wohldefiniert, also$\Delta S=k\ln(\frac{w_f}{w_i})$ist wohldefiniert, und die Mehrdeutigkeit wird aufgelöst, indem die Entropie beim absoluten Nullpunkt als Null definiert wird, was die zu verwendende Normalisierung ergibt.

Ich rate Ihnen, einen Blick in jedes Lehrbuch der statistischen Mechanik zu werfen. Dieser Punkt wird normalerweise in den ersten Kapiteln behandelt. Sie möchten die mikrokanonische Entropie berechnen

$$S(E)=k_B\ln\Omega(E)$$ wo $\Omega(E)$zählt die Anzahl der Mikrozustände mit Energie $E$. Wie Sie darauf hingewiesen haben, ist diese Zahl unendlich, wenn die Koordinaten kontinuierlich sind. Der Standardansatz besteht darin, den Phasenraum zu diskretisieren und in Zellen zu unterteilen. Es wird angenommen, dass jede Zelle einem einzelnen Mikrozustand entspricht. Zum $N$Teilchen in einem 3D-Raum ist die Dimension des Phasenraums $6N$. Die Breite einer Zelle wird so gewählt $\Delta q$in dem $3N$den Koordinaten zugeordnete Richtungen und $\Delta p$in dem $3N$Richtungen, die mit Impulsen verbunden sind. Das wird dann vermutet $$\Delta q\Delta p=h_0$$ Jetzt die Anzahl der Staaten $\Omega(E)$mit Energie $E$ist endlich und Sie können die mikrokanonische Entropie berechnen. Dies ist ein Sonderfall der in den vorherigen Antworten erwähnten Grobkörnung.

Der Vorteil dieses Ansatzes ist, dass Sie ihn leicht abschätzen können$\Omega(E)$, die Anzahl der Energiezellen$E$, als Volumen$Vol$des Phasenraums entsprechend einer Energie$E$geteilt durch das Volumen$h_0^{3N}$einer Zelle (ich vereinfache hier etwas: Was zuerst berechnet werden sollte, ist eigentlich das Volumen des Phasenraums, das einer Energie kleiner als entspricht$E$). Diese Schätzung ist nur dann genau, wenn$h_0$ausreichend klein gewählt wird. Sehen Sie, was mit der Entropie passiert: seit$\Omega(E)=Vol/h_0^{3N}$, Entropie liest

$$S(E)=k_B\ln Vol-3Nk_B\ln h_0$$ Der Parameter $h_0$tritt nur als additive Konstante auf. Da thermodynamische Mittelwerte durch Ableitungen der Entropie gegeben sind, hängen sie nicht davon ab $h_0$(hoffentlich da die Diskretisierung des Phasenraumes nicht physikalisch ist) und man kann jedem beliebigen Wert beimessen $h_0$, solange sie hinreichend klein bleibt. Normalerweise wird kein bestimmter Wert angegeben $h_0$.