Verwirrung bezüglich Entropie, Referenzpapiere anfordern

Für klare Ausführungen über die Beziehung zwischen Entropie und Information und die Grundlagen der Nichtgleichgewichtstheorie lohnt es sich, durch die Artikel von Edwin Jaynes zu surfen. Seine vollständige Bibliographie finden Sie hier . Es ist wahrscheinlich am besten, mit einem seiner späteren Aufsätze zu beginnen, da sie einen pädagogischeren Ansatz verfolgen. Ich würde „ Die Evolution des Carnot-Prinzips “ als Ausgangspunkt empfehlen und dann vielleicht „ Das Gibbs-Paradoxon “.

Nun, um einige Ihrer spezifischeren Punkte zu beantworten.

1. Entropie lässt sich zumindest am Anfang so definieren, dass man sagt, dass ein Körper eine Temperatur hat$T$gewinnt einen Betrag$Q$Wärme, seine Entropie steigt um$Q/T$. Bei einer gegebenen Wärmemenge bedeutet eine höhere Temperatur also eine geringere Entropie. Daraus folgt jedoch nicht zwangsläufig, dass Körper (oder Gase) mit höherer Temperatur immer eine geringere Entropie haben als Körper mit niedrigerer Temperatur, denn heißere Körper haben auch mehr Energie. Beide Zitate sind richtig, denn das erste bezieht sich auf Entropie pro Energieeinheit und das zweite auf Entropie pro Volumeneinheit.

Das wirklich Wichtige ist jedoch nicht, wie viel Entropie ein Körper bei einer bestimmten Temperatur hat, sondern wie sehr sich seine Entropie ändert, wenn er etwas Energie gewinnt oder verliert. Wenn Sie ein isoliertes System haben, das aus einem heißen Körper besteht (bei Temperatur$T_H$) und eine kalte (bei$T_C$), etwas Hitze$Q$fließt vom heißen zum kalten Körper. Die Entropie des heißen Körpers ändert sich dadurch$-Q/T_H$(dh seine Entropie nimmt ab ), aber die Entropie des kalten Körpers nimmt dadurch zu$Q/T_C$, die größer ist, weil$T_H>T_C$.

Die gesamte Entropieänderung in diesem System ist$\frac{Q}{T_C}-\frac{Q}{T_H}$. Wenn die beiden Temperaturen gleich sind, wird die Entropie maximiert und es kann keine weitere Wärmeübertragung stattfinden.

2.a Eine schöne Art, sich Arbeit vorzustellen, besteht darin, sie sich als Energie ohne zugehörige Entropie vorzustellen. Es ist wie Wärme mit einer unendlichen Temperatur, also das$Q/T$auf 0 geht. Nehmen wir an, wir haben einen Körper mit einer bestimmten Temperatur$T$und wir wollen ihm etwas Wärme entziehen und ihn in etwas Arbeit umwandeln$W$. Die Entropieänderung dieser Transformation ist

$$\text{entropy of the work}-\text{entropy of the heat}=0-W/T<0,$$ was bedeutet, dass es unmöglich ist, diese Transformation durchzuführen, es sei denn, wir erhöhen dabei die Entropie eines anderen Systems um den gleichen Betrag ( $W/T$) oder mehr, so dass die Gesamtentropieänderung größer als Null ist.

Insbesondere wenn wir zwei Körper mit unterschiedlichen Temperaturen haben, können wir die Entropie des kalten erhöhen, indem wir etwas Wärme vom heißen auf ihn übertragen. Wenn wir einen Betrag setzen$Q$in den kalten Körper müssen wir eine Menge nehmen$Q+W$von der heißen. (Das ist die Energie, die wir in den kalten Körper stecken, plus die Menge, die wir in Arbeit umwandeln.) Die Entropie des kalten Körpers steigt nun um$Q/T_C$während die Entropie des heißen Körpers abnimmt$(Q+W)/T_H$. Die gesamte Entropieänderung ist daher

$$\frac{Q}{T_C}-\frac{Q+W}{T_H},$$ was positiv ist, solange $W<Q\left(1-\frac{T_C}{T_H}\right)$, die als Carnot-Grenze bezeichnet wird.

Um es noch einmal zu wiederholen, der Punkt ist, dass Arbeit Energie ohne zugehörige Entropie ist, und wenn Sie sie aus Wärme erzeugen wollen, müssen Sie dies tun, indem Sie die Entropie eines anderen Systems erhöhen, um den zweiten Hauptsatz zu erfüllen.

Aber bitte beachten Sie: Ihre Intuition über den Zusammenhang zwischen Arbeit und Entropie war nicht ganz richtig. Die Arbeit an einem System kann seine Entropie verringern (obwohl es sie auch erhöhen kann, indem es Energie hinzufügt), aber die Arbeit an einem System ist nicht die einzige Möglichkeit, seine Entropie zu verringern . Sie können dies beispielsweise auch tun, indem Sie Wärme entfernen, wie ich oben gezeigt habe.

2.b Dieses Zitat ist richtig. Wenn ein System „Negentropie“ hat (was kein sehr gebräuchlicher Begriff ist, aber durchaus vernünftig), dann ist seine Entropie nicht maximal, was bedeutet, dass es möglich ist, seine Entropie zu erhöhen, um etwas Wärme umzuwandeln in arbeiten.

3.a Seien Sie hier vorsichtig - Sie scheinen Unsicherheit mit Information gleichzusetzen, aber sie sind eigentlich Gegensätze! Je weniger Informationen Sie über etwas haben, desto unsicherer sind Sie darüber. Entropie ist Ungewissheit - genauer gesagt ist es die Menge an Ungewissheit, die Sie über den mikroskopischen Zustand eines Systems haben, wenn Sie seine makroskopischen Eigenschaften (Temperatur, Druck, Volumen usw.) kennen. Sie kann in denselben Einheiten wie Informationen (z. B. Bits) ausgedrückt werden, hat aber das entgegengesetzte Vorzeichen, sodass eine Erhöhung der Entropie einen Informationsverlust bedeutet.

3.b Ich habe diese Quelle nicht gelesen, daher kann ich den Symmetrieteil nicht wirklich kommentieren, aber die Idee, dass maximale Entropie gleich minimaler Information ist, ist richtig.

4. Nichtgleichgewichtsthermodynamik ist heutzutage ziemlich ausgereift. Die Grundidee ist, dass Sie das Zeug nehmen, über das ich oben gesprochen habe, und stattdessen eine endliche Menge an Wärme$Q$, betrachtest du einen Wärmestrom$dQ/dt$. Dies führt zu einer kontinuierlichen Entropieänderung$dS/dt$, die für ein isoliertes System positiv sein muss. Die Mathematik unterscheidet sich nicht sehr von der Gleichgewichtsthermodynamik. Wenn Sie einige spezifische Fragen dazu haben, kann ich Ihnen wahrscheinlich helfen, sie zu beantworten.

Entropie ist ein breites Thema und sowohl für die Physik als auch für die Informationstheorie sehr wichtig.

Im Allgemeinen ist Entropie ein Maß dafür, Dinge nicht zu wissen. Ein Zustand hoher Entropie liegt also vor, wenn es viele mögliche Sequenzen oder viele mögliche Mikrozustände eines physikalischen Systems gibt.

In der Informationstheorie schon

$$S(\{p_i\}_i) = - \sum_i p_i \log(p_i).$$ Insbesondere wenn es hoch ist, bedeutet dies, dass die Messung genau ist $i$gibt viele Informationen.

In der Thermodynamik bezieht es sich auf das Volumen des Phasenraums . Tatsächlich ist es die gleiche Formel wie in der Informationstheorie, aber Sie messen die Wahrscheinlichkeitsverteilung für Teilchen, die sich im Zustand befinden$(x_1,\ldots,x_n,p_1,\ldots,p_n)$, Wo$x_i$sind Positionen und$p_i$- Momente.

Wenn es um Entropie-Energie geht, schauen Sie sich die Thermodynamik an. Bei offenen Systemen kann die Entropie mit der Temperatur abnehmen, wenn Partikel wegfliegen.

Mögliche Lesarten (da die von Ihnen gestellten Fragen nicht in einem Beitrag beantwortet werden können):

• Kerson Huang, Einführung in die statistische Physik
• TM Cover, JA Thomas, Elemente der Informationstheorie
• A. Wehrl, Allgemeine Eigenschaften der Entropie , Reviews of Modern Physics, 1978

Zu Punkt 1 ist die zitierte Aussage in Punkt 1a im schlimmsten Fall falsch, bestenfalls unvollständig (wenn man aus dem Begriff "hohe Temperatur" folgert, dass auch ein Kühlkörper mit niedrigerer Temperatur vorhanden ist). Die "Hochtemperatur"-Energie ist nur nützlich, wenn eine solche Wärmesenke mit niedrigerer Temperatur vorhanden ist und die Gesamtentropie dieser beiden Reservoirs geringer ist, als wenn sie sich bei derselben Temperatur ausgleichen könnten. Zum Beispiel für zwei Reservoirs idealen Gases mit gleichen Volumina$V$und Anzahl der Moleküle$N$, eins bei Temperatur$T+\Delta T$und die andere bei$T-\Delta T$, die Gesamtentropie der beiden ist (siehe Feynman Lectures Vol. 1, Lecture 44):

$$\begin{align} S &= 2a + Nk \left[ 2\ln(V) + \frac{1}{\gamma -1} \left[ \ln (T+\Delta T) +\ln (T-\Delta T) \right] \right]\\&= 2a + Nk \left[ 2\ln(V) + \frac{1}{\gamma -1} \ln (T^2-\Delta T^2) \right]\end{align}$$ die Entropie ist also maximiert, wenn $\Delta T=0$(dh wenn die beiden Reservoirs die gleiche Temperatur haben).

Die Aussage in Punkt 1b) ist richtig: Man kann die Temperatur eines Gegenstands erhöhen, indem man ihm Wärme zuführt, wodurch seine Entropie erhöht wird.

Zu Punkt 2, im Kontext der gleichen zwei idealen Gasreservoirs, jetzt bei gleicher Temperatur, könnte Ihre Idee, Arbeit zu leisten, um ihre Entropie zu reduzieren, verwirklicht werden, indem Sie eine reversible Wärmekraftmaschine zwischen die beiden schalten und diese Maschine mit Arbeit antreiben Wärme von einem Reservoir zum anderen übertragen, wobei das eine gekühlt und das andere geheizt wird (z. B. eine Wärmepumpe oder ein Kühlschrank). Ich bin mit Negentropie nicht vertraut, aber das Brillouin-Zitat scheint die obige Diskussion zu verallgemeinern: Ein Unterschied zwischen zwei Unterabschnitten des Systems ist notwendig, um Arbeit zu extrahieren.

Zu den Punkten 3 und 4 verwendet Shannons Gleichung für die Informationsentropie (siehe Piotr Migdals Antwort) im Wesentlichen dieselbe Form wie in der statistischen Mechanik (weshalb Shannon den Namen entlehnt hat). Ich mag das Zitat aus Pierces „An Introduction to Information Theory“: „Sobald wir die Entropie, wie sie in der Kommunikationstheorie verwendet wird, gründlich verstehen, kann es nicht schaden, sie mit der Entropie in der Physik in Beziehung zu setzen, aber die Literatur weist darauf hin, dass einige Arbeiter haben sich nie von der Verwirrung erholt, die durch eine frühe Vermischung von Ideen über die Entropien der Physik und der Kommunikationstheorie verursacht wurde. Lerne das eine, dann das andere...

Ich würde die oben erwähnte Feynman-Vorlesung sowie die nachfolgenden Vorlesungen über Thermo im selben Band empfehlen.