酉表示，群到酉群的同态，是表示论中 一种经典群表示方法，酉表示论的主要目标之一是描述“酉对偶”，即 G 的所有不可约酉表示的空间。

群的酉表示是联系群论与其它众多数学分支的重要工具，其中就包括泛函分析尤其是𝐶*-代数理论。自20世纪20年代起，该理论首先被广泛应用于量子力学领域，尤其以《GruppentheorieundQuantenmechanik》最富影响力，Hermann Weyl于1928年出版。作为该领域的先驱之一，George Mackey在20世纪40-60年代发展了酉表示的一般理论，使其研究对象扩展到一般的群𝐺而不是仅仅针对某些应用的特殊群。

值得强调的是群论与泛函分析通过群的酉表示建立的这种联系是相互的。一方面泛函分析尤其是算子代数方法的引入，使得群论研究的手段和内容都更加丰富。

表示论是数学中抽象代数的一支。旨在将抽象代数结构中的元素“表示”成向量空间上的线性变换，并研究这些代数结构上的模，藉以研究结构的性质。略言之，表示论将一代数对象表作较具体的矩阵，并使得原结构中的代数运算对应到矩阵加法和矩阵乘法。此法可施于群、结合代数及李代数等多种代数结构；其中肇源最早，用途也最广的是群表示论。设 为群，其在域 （常取复数域 ）表示是一 矢量空间 及映至一般线性群之群同态

假设 有限维，则上述同态即是将 的元素映成可逆矩阵，并使得群运算对应到矩阵乘法。

表示论的妙用在于能将抽象代数问题转为较容易解决的线性代数问题。此外，群还可以表示在无穷维空间上；例如，若考虑无穷维希尔伯特空间上的表示，并要求一些连续性条件，此时表示论就牵涉到一些泛函分析的课题，数学分析的方法就可以用于解决群论的问题。表示论在自然科学中也有应用。对称性的问题离不开群，而群的研究又有赖于其表示，最明显的例子便是李群及李代数表示论在量子力学中的关键角色。

表示论的一大特点是它遍布数学各个领域。这个特点有两个方面。首先，表示论的应用十分广泛：除了在代数的影响之外，表示论

1）通过调和分析阐明并推广了傅里叶分析；

2）通过不变量理论和爱尔兰根纲领与几何学建立了联系；

3）通过自守形式和朗兰兹纲领对数论产生了影响。

常用的表示论包括有限群表示、模表示、酉表示、李群表示、李代数表示等。

群 的酉表示是 在实或（通常是）复希尔伯特空间 上的表示 ，使得对于所有 、 都是一个酉算子。自1920年代起，受赫尔曼·外尔的影响，酉表示广泛地应用于量子力学，并因此启发了酉表示理论的发展，主要由尤金·维格纳对庞加莱群表示的分析推动。乔治·麦基是建立酉表示的一般理论的先驱之一，而到了1950和1960年代，钱德拉等人建成了一套全面的理论。

酉表示论的主要目标之一是描述“酉对偶”，即 的所有不可约酉表示的空间。酉表示理论最完善的一部分是在 局部紧豪斯多夫拓扑群、表示为强连续映射的情况下。若 是阿贝尔群，那么酉对偶就是特征标的空间，而当 是紧致群时，彼得-外尔定理声明不可约酉表示都是有限维表示，并且酉对偶是离散的。例如，若 是圆群 ，那么特征标是由整数给出的，因此 的酉对偶就是 。

对于非紧致的 ，酉表示的判定是个微妙的问题。虽然不可约酉表示必须是“可容许表示”（例如钱德拉模），并且要检测出可容许表示是否具有非退化的不变半双线性形式是比较容易的，然而要判断这个形式是否正定却非常困难。对酉对偶进行有效的描述，哪怕只是对于实半单李群（见下文）等相对规整的群的情况，仍然是表示论中的一个重要的开放问题。这个问题对于许多特殊的群，例如2次特殊线性群 以及洛仑兹群等，已有解答。

从群表示论的观点出发，一对交换矩阵可以理解成由两个生成元生成的自由交换群的表示，则一对几乎可交换矩阵可以看成是对这种表示的推广。因此群的几乎酉表示的概念就自然产生了。

在几乎酉表示的基础之上，V. M. Manuilov进而给出如下渐进酉表示的概念。

Γ的任意几乎酉表示都可以纳入到一个渐进酉表示当中去。有限生成群的例子有自由群、有限群、交换群以及二维可定向流形的基本群等。