Exercises 1 in Statistical mechanics: entropy, order parameters, and complexity

这里记录一下一些在《Statistical mechanics: entropy, order parameters, and complexity》这本书的第一章中的一些比较有趣的题目。

Q1

There are M dice each with N sides(labeled by integers) and at each turn every dice is thrown independently one after another, and then the points of each dice are recorded, and a sequence of length M obtained in one turn is recorded as a pattern. A legal pattern requires that the number in the sequence is monotonically un-decreasing. The problem is how many legal patterns are there?

Solution 1

我们先从一些简单的例子开始入手，比如说当$M=4,N=3$时，一种合理的pattern应该是<1,1,2,3>，我们可以进一步描述这个pattern是两个1，一个2，一个3组成的，即通过这种描述我们可以唯一确定一个合理的pattern(尽管这样的描述在无序的情况下对应多种可能，但是在有序(排列后)只有一种可能)。对于这种描述就相当于下面的一种representation:
11 | 2 | 3
在不同数字的交界处放置一个隔板(bar), 当pattern是由三种数字组成的时候(本例子)，就必然会放上$3-1=2$个隔板，所以说当一个pattern是$k$种数字组成的时候，应该放上$k-1$个隔板，而隔板与隔板之间就是某个数字$i$的$c_i$次copy。再有一个例子，当某个pattern是由两种数字1,3组成的时候，一个合理的pattern可以是
111 | | 3
照理说这里一个隔板就可以将不同的数字隔开了,为什么这里要用两个隔板呢?实际上我们放上隔板的目的一方面是为了将不同的数字隔开,更重要还是为了体现不同数字使用次数的情况,如果只放上一个一个隔板,我们就不知道数字2到底用没有,但是有了两个放在一起的隔板,我们从这个事实得出的信息就是有的数字没有被使用,你可能会说这不是明摆着的吗?都说了这个pattern是由两种数字组成的了，但是这里放两个隔板就可以延续上面讨论中的当$N=3$时需要$N-1$个隔板的结论了。

In general, 对于$M$个dice, 每个dice有$N$个sides的情况，它的representation如下:
$\text{\#\# || \#\#|}\cdots \text{\#\# | \#\#\#\# }$
其中$\text{\#}$表示数字. 根据根据上面的讨论，这种representation有能力表示所有的合理的pattern，所以这种repsentation的种数应该是大于等于所有合理的pattern的数目的，再想一想存不存在某个repsentation它不对应一种合理的pattern, 诚然，一种representation由于$\text{\#}$是不确定的，它必然对应着许多pattern(包括合理的pattern), 但是这许多中pattern里面，不递减的pattern就只有一种，注意，我们在说这些pattern时，它们是对应一种representation的，现在这些pattern由只有一个合理的pattern，所以不存在一种repsentation不对应一种合理的pattern, 因为总可以通过排序的操作让一个repsentation对应一个pattern。显而易见的是不同的representation肯定对应不同的合理的pattern, 同时一个repsentation也不会对应不同的合理的pattern. 综上所述不同representation的个数就是合理的pattern的个数。

那么如何求不同representation的个数呢？从上面的讨论来看似乎取决于隔板的位置，但如果从这个角度去求解的话，很难得出结果，因为隔板的位置实在是太多了，很难归纳出一定的结论。但是如果从整体来看，我们需要$M$个位置来放$\text{\#}$, 还需要$N-1$个位置来放隔板(这里再说一下为什么是$N-1$个隔板，因为只有这样才$N$种数字，就算有些隔板会放在一起，那也是表示有些数字没有用到), 所以一共有$N+M-1$个位置，我们只需要从中选出$N-1$个位置来放隔板就可以了，对应的repsentation数目是$C_{N+M-1}^{N-1}=C_{N+M-1}^M$。

Solution 2

和放隔板的思想类似，这里假设一个合理的pattern里面有$n_0$个0，$n_1$个1，...., $n_{k-1}$个$k-1$, 其中$\sum _{i=0}^{k-1}{n}_i=M$, 所以这实际上一个$k$-composition of $M$的问题, 由于$n_i$还可以是0，所以更准确地说，这是一个weaker的$k$-composition of $M$的问题，所以合理的pattern的数目就转化为number of $k$-compostion of M,而M的weaker $k$-compostion的数目是$C_{N+M-1}^{N-1}=C_{N+M-1}^M$. 具体的证明过程可见：
https://en.wikipedia.org/wiki/Composition_(combinatorics)

Q2

Let us consider just the probability distribution of one molecule’s velocities. If vx, vy, and vz of a molecule are independent and each distributed with a Gaussian distribution with $\sigma =\sqrt{KT/m}$ then we describe the combined probability distribution as a function of three variables as the product of the three Gaussians:
$\rho (v_x,v_y,v_z)=\frac{1}{(2\pi (kT/m){)}^{3/2}}{e}^{\frac{-m{\mathbf{\text{v}}}^2}{2kT}}=\rho (v_x)\rho (v_y)\rho (v_z)$
here ${\mathbf{\text{v}}}^2=v_x^2+v_y^2+v_z^2$ .
Show that the probability that the speed is $v=|\mathbf{\text{v}}|$ is given by a Maxwellian distribution: ${\rho }_{Maxwell}(v)=\sqrt{\frac{2}{\pi }}(\frac{v^2}{{\sigma }^3})e^{\frac{-v^2}{2{\sigma }^2}}$

首先我们来明确几个概念，$\rho (v)$表示分子的速率密度函数，其中$v=|\mathbf{\text{v}}|$, 它表示$v$真的就是速率，没有包含速度$\mathbf{\text{v}}$的方向；而${\rho }_J(\mathbf{\text{v}})=\rho (v_x,v_y,v_z)$表示的是速度的密度函数，这个题干已经给出了。我们要求的是$\rho (v)$或者说是速率在$[v,v+dv]$范围内的概率$\rho (v)dv$。我们仅有的式子是在三维的速度空间$(v_x,v_y,v_z)$中的速度密度函数${\rho }_J(\mathbf{\text{v}})$，所以我们需要建立起速率$v$与速度$\mathbf{\text{v}}$的关系，更具体一点，我们需要建立起$\rho (v)dv$与${\rho }_J(\mathbf{\text{v}})$的关系。

现在冷静下来想一下，因为$\rho (v)$是不带任何方向因素的纯速率的密度，所以我们的目标就是将${\rho }_J(\mathbf{\text{v}})$给转化为不带任何方向的关于纯速率的密度，并且这样操作下来的结果应该是等于$\rho (v)$的，这样就建立齐了联系。将${\rho }_J(\mathbf{\text{v}})$的方向因素消去就要对一个确定的$v$下的所有方向进行积分来消除掉方向的影响(类似于概率论中的全概率公式的逆向思路)，而在三维速度空间中，因为速率$v=|\mathbf{\text{v}}|=v_x^2+v_y^2+v_z^2$, 所一个确定的$v$实际上对应的是半径为$v$的球，而如果在积分中使用球坐标的话，会出现$r,\varphi ,\theta$则三个参数，恰巧的是$r$是半径，不管在任何方向上都是那么多，这正好符合我们的要求，而$\varphi ,\theta$这两个参数就是描述方向的，所以我们就需要对所有的$\varphi ,\theta$进行积分, 即
$\rho (v)dv=\int {\int }_{\mathrm{\Omega }}{\rho }_J(v_x,v_y,v_z)d{v}_{x}d{v}_{y}d{v}_z$
其中$\mathrm{\Omega }=\{(v_x,v_y,v_z)|v_x^2+v_y^2+v_z^2=v^2\}$, 然后引入求坐标得到
${\int }_0^{\pi }{\int }_0^{2\pi }{\rho }_J(v,\varphi ,\theta )v^2\sin (\varphi )d\theta d\varphi dv=4\pi v^2{\rho }_J(v)dv$
这样一来，我们就建立了速率与速度之间的关系$\rho (v)dv=4\pi v^2{\rho }_J(v)dv$, 其中${\rho }_J(v)$中的$v=v_x^2+v_y^2+v_z^2$，将其带入${\rho }_J(\mathbf{\text{v}})$的式子中就可以得到$\rho (v)=\sqrt{\frac{2}{\pi }}(\frac{v^2}{{\sigma }^3})e^{\frac{-v^2}{2{\sigma }^2}}$