表示论是数学中抽象代数的一支。旨在将代数结构中的元素“表示”成向量空间上的线性变换，藉以研究结构的性质。

在20世纪后半叶，群论的主要工作与群表示论(representationtheory)有关．它起源于19世纪在不变量和共变量方面的积累．粗略地说，不变量是平凡表示，共变量就是某个非平凡表示的元素．这些概念的意义是如果我们希望用坐标的形式写出等式和关系，那么我们期望坐标改变时等式描述的几何特征或机构没有变化．实现此目标的最简单方法是确认表达式是不变量之间的等式，但是我们也能使用共变量之间的关系，条件是所比较的共变量是相应于同一表示的．只要想研究某种新对象，或许是直线、椭球或者惯性矩阵，就要问在坐标变换下新对象是怎样变化的，以及这个对象是属于什么表示的． ’

表示论是数学中研究表示的理论。对于一个数学体系A，从A到同类的(一般是“更具体的”)一个数学体系的保持结构的映射，称为A的一个表示。其中主要有群的置换表示、群和结合代数的线性表示、有限群的线性表示、酉表示等等。

表示论(representation theory)用具体对象“表示”一抽象代数系并保持它的基本结构而对它的性质加以研究的理论．最常用的具体对象是某一集合上的变换，特别是线性空间上的线性变换(这样的表示称为线性表示)．以群的(线性)表示为例：设G为群，V为域F上的线性空间，GL(V)为V上所有非退化线性变换组成的群．G到GL(V)的一个同态ρ即称为G在V上的一个表示．其实质就是用V上的线性变换来“表示”G中的抽象元素．线性变换是具体的，故可以应用线性代数的知识对群进行研究．若G为n阶有限群，当F为复数域时(更一般，当F的特征除不尽n时)的表示称为常表示。当F的特征除尽n时的表示则称为模表示。群表示论由弗罗贝纽斯创立，舒尔(I．Schur，1875～1941)和伯恩赛德(w．Burnside，1852～1927)对此也作出了重要的贡献。诺特强调对表示空间的研究，导致模的理论的建立，并由布劳尔(R．Brauer，1901--1977]开创了模表示理论．群表示论不仅对群论本身是重要的，它对其它数学学科如函数论、调和分析、泛函分析等也有着巨大的影响．它同时也是理论物理学的重要工具．除线性表示外，还有群的射影表示，有限群的置换表示等．其它抽象代数系如环、结合代数、李代数等也各有其相应的表示理论．

李群的表示就是群的线性作用．我们已经看到了群SO(3)和SE(3)的一些线性作用，但是这里希望在机器人学中更加系统地介绍，而且广泛地应用某些现代表示论的内容．对于表示论的一个很好的导论是Fulton和Harris的著作．首先介绍一些标准的定义．

在向量空间V上的李群G的表示(representation of a Lie group)是光滑映射 、

R：G×V→V，

它满足某些公理．然而更一般地是将表示看作是对于群G的每一个元素从V到V的映射的集族．这样就将群的元素看作是提供了向量空间的对称性．若将这些映射写成Rg=R(g，*)，则第一个公理可表示为

对于所有g，h∈G和所有v∈V，这个映射保持群的积．对于单位元的映射总应该是向量空间中的恒同映射，即

最后,这个映射对于任意的g∈G、所有的v1,v2∈V和所有的标量a和b应该是线性的。即

所以映射Rg应该是线性的和可逆的．线性来自于上式。而且能使用(R1)式和(R2)式证明映射Rg的逆是.在向量空间上的这个映射被称作自同态(endomorphism)．对于有限维的向量空间给定一组基，自同态能被写成非退化矩阵形式。因此这些表示有时也被称作矩阵表示．而基的变化不影响这个表示。所以我们认为,两个矩阵表示如果通过坐标变换相联系,那么它们是等价的,而这种坐标变换通过相似变换,实现。即

对于所有g∈G和某个非退化矩阵M．

对于每一个群,至少有一个表示：映射群的每一个元素到单位矩阵。则上面所有的公理都满足．但它不是一个非常有价值的表示,被称作群的平凡表示(trivial representation)．如果群的每一个不同的元素都由向量空间不同的对称性表示。那么称这个表示是忠实的(faithful)．若使用另一种方法表达,可以说忠实表示是从群到向量空间的自同态空间的单射．

表示论将一代数对象表作较具体的矩阵，并使得原结构中的操作对应到矩阵运算，如矩阵的合成、加法等等。此法可施于群、结合代数及李代数等多种代数结构；其中肇源最早，用途也最广的是群表示论。

假设 V 有限维，则上述同态即是将 G 的元素映成可逆矩阵，并使得群运算对应到矩阵乘法。

表示论的妙用在于能将抽象的代数问题转为线性代数的操作；若考虑无穷维希尔伯特空间上的表示，并要求一些连续性条件，此时表示论就牵涉到一些泛函分析的课题。

表示论在自然科学中也有应用。对称性的问题离不开群，而群的研究又有赖于其表示，最明显的例子便是李群及李代数表示论在量子力学中的关键角色。“表示”的概念后来也得到进一步的推广，例如范畴的表示。