「中小企業」の定義にもよるが、日本では一般に、「中小企業」とは何かについては、中小企業基本法による定義が使われる。
製造業か小売業かで法律による定義が違う。製造業は、資本金3億円以下、または従業員300人以下の企業が、中小企業である。
日本企業の事業所のうち、中小企業は事業所数の約99％である。つまり、日本企業のほとんどは中小企業である。
製造業では、高度経済成長期に、中小企業の多くが、大企業を頂点とするピラミッド型の企業グループ構造の系列（けいれつ）として組み込まれ、中小企業は大企業から注文を受けて部品などを製造する下請け（したうけ）となっていった。自動車や電気機械産業で、このような系列化が典型的に見られる。
製造業にかぎらず、商店街などの小さな商店も、中小企業である。
下請け企業は、大企業から大量の注文を継続的に取りやすかったり、大企業から技術援助などを受けやすい一方、取引が大企業有利で対等ではなく、また賃金格差が大企業と中小企業との間にあり（大企業のほうが賃金が高い）、不況時にはコスト削減の対象にされやすい、という問題点もある。
大企業と中小企業の、賃金などの格差は、日本経済の「二重構造」と言われている。
1963年に中小企業基本法が制定され、中小企業の保護が行われた。
高度経済成長期の好況や労働力不足により、大企業と中小企業の格差は、ある程度は改善した。
1999年には、中小企業基本法が改正され、それまでの保護政策から、自助努力をうながす政策へと転換した。
独自の新技術などにより、新しく産業を起こした企業をベンチャー企業といい、また、そのような新興の産業などをベンチャー＝ビジネス（venture business）という。
検定教科書を読むと、中小規模のベンチャー企業を称賛するような記述が多い。どうやら日本政府は、ベンチャービジネスを奨励してるようである。新興の産業などに進出することが多い。