数学心理学是利用数学模型来研究心理现象的心理学分支。用定量的方法来描述心理现象。

由于研究的对象的复杂性，一般只能对研究作模糊定性上的描述，但在信息论、控制论、统计决策论和计算机科学发展的推动下，数学心理学也发展迅速，不断取得了新成果。用数学模型描述心理现象，其优越性不仅是它比自然语言的描述具有更大的概括性、准确性、演绎力和预测力，更重要的是它便于用计算机来模拟，为研究人工智能创造了更好的辅助。

一般说来，数学模型的建立，首先是把需要研究的心理现象，如知觉、学习、决策等等，从复杂的心理活动中分离出来，构成一个特定的集合，把原始资料加工成集合中的客体和关系。然后用代数的、几何的、概率的、公理的形式，或者是计算机程序和方程式的形式，把它们表现出来。在这里，主要的问题是确定研究领域的经验系统，和表达它的形式系统之间的对应关系。

在数学模型建立之后，通过逻辑推理或数学运算可以推导出一定的结果。如果给模型以一定的解释，所推出的结果就可以看作是对经验系统的某种预测。进一步将预测值与实际测试值加以比较，依据二者的符合程度，还可以对数学模型加以修正。

1927年瑟斯顿在制定心理量表时提出了比较判断率，并用公式来表明两个刺激间的主观距离。这些工作都属于数学心理学的范畴。但是，当时这类工作为数不多，也比较分散，还没有数学心理学之称。

第二次世界大战后，由于信息论、控制论、统计决策论及计算机科学的推动，数学心理学才得到真正的发展。20世纪50年代初，埃斯蒂斯、布什和莫斯蒂勒提出的学习模型，是这一新方向的开端。目前实验心理学的许多重要领域，如测量、决策、学习和社会的相互作用等方面，都已制定出大量的数学模型。