样本过小是一种因归纳所依据的样本对于成为有关考察对象总体的可靠尺度来说数量太小而引起的谬误。如果样本过小以致无法提供有关考察对象的典型样本，如果我们已经知道在样本大小方面存在问题，但我们仍然接受了基于这些样本所得到的结论，那么就犯了样本过小的逻辑错误。这种谬误也可以称为“轻率概括”，但前者侧重的是从统计学角度看在抽取样本的技巧方面存在着问题。

如某人由“一”字是一横，“二”是两横、“三”是三横，引申出“表示数字的汉字与其笔画相应”的一般结论，就犯了样本过小的错误。但在认识事物的过程中，究竟需要多大的样本才能避免这样的错误，仍然是一个非常复杂的问题。如果考察对象缺乏多样性，那么用于归纳的样本可以较小。在完全同质的某类对象中，哪怕只有一个样本也足以成为这类对象的典型样本，就如对电子的观察一样，只要知道一个也就知道了全部。但就表示数字的汉字与其笔画相应来说，考察“一”、“二”和“三”，与考察所有表示数字的汉字毕竟不是一回事。