最小二乘法大约是1795年高斯在其著名的形体运动轨道预报研究工作中提出的。由于原理简单、收敛较快、易于理解、易于编程实现等特点，在系统参数估计中应用相当广泛。
最小二乘法以CAR模型推导而得，CAR模型如下：
式中，是白噪声，结构参数na、nb和d均已知，并且
