世界上水力发电是从小水电站开始的。很多欧美国家在19世纪就开始小水电站的建设。1878年法国建成世界上第一座水电站。美洲最早的水电站建于美国威斯康星州，于1882年9月开始发电，装机容量25kW。
20世纪30年代，由于大中型水电站和电力事业的发展，许多国家出现关闭小水电站或缩减小水电站数量和装机容量的现象。美国从1930～1970年关闭了3000座小水电站。法国从1963～1975年小水电站的发电量减少了78%。苏联在1960年以后，小水电站的座数和装机容量都在下降。
到70年代后期，由于世界性石油价格上涨，出现能源危机，许多西方国家对小水电重新关注，开展了一系列勘测设计和科学研究工作。美国对已关闭的3000座小水电站进行了调查和登记，并对近5万座未设水电站的大坝进行了研究。这些坝如全部建设水电站，总装机容量可达1亿kW，其中1600万kW属于小水电站。
70年代以后，世界各国的小水电有不同程度的发展。1977年法国有 978座容量小于10000kW的小水电站，总装机容量49万kW，年发电量18亿kW·h；瑞典有小水电站1050座，装机1350台，容量55万kW，年发电量20亿kW·h；日本有小水电站1350座，装机容量700万kW，占全国电力总装机容量的6%。
中国大陆第一座水电站是1912年在昆明建成的石龙坝水电站。这个电站从滇池出口处的螳螂川引水发电，初期装机容量为2×240kW，后经逐步改建，1958年扩建为2×3000kW。1949年，全国500kW以下的小水电站有33座，装机容量3634kW（不包括台湾省）。
中华人民共和国成立后，随着社会主义建设事业的发展，小水电发展较快。在50年代，500kW及以下的水电站通称为小水电。因当时工业基础薄弱，多数小水电采用简易的木制或铁制水轮机，配以由电动机改装成的发电机，通过低压线路向附近的农村提供照明，平均每年新增装机容量1.5万kW。到60年代，全国已有专业制造中小型水轮发电机组的工厂10多家，生产能力提高，平均每年新增装机容量5.8万kW。到70年代，小水电的单站容量扩大至12000kW，专业制造厂增至60余家。
逐步联成地方小电网，进行集中调度。地方小电网的电压等级增至35kV，开始向工农业生产供电，平均每年新增装机58万kW。1979年一年新增小水电装机 112万kW。到80年代，小型水力发电设备制造厂已有近百家，年生产能力达到 100万kW。同时自动化水平也在不断提高。小水电的装机容量按国家计委规定，扩大至25000kW。一些地区开始用110kV高压线路联成该地区的地方电网，实行分级管理，互通有无，调剂余缺。
截至1987年底，全国小水电共有63254座，装机容量1110万kW，占全国水力发电总装机容量的1/3；1987年发电290亿kW·h，年利用小时2.744h，比1980年增加700h。在小水电中，500kW以上的骨干电站共有4585座，其装机容量占2/3以上，发电量占80%以上，在地方电网内担负着重要作用。
在全国小水电供电区内，拥有：10kV以上高压线路68.5万km（其中110kV输电线路7420km，35kV线路67476km），低压线路149.3万km；110kV变电站155座，35kV变电站3027座，3～10kV配电变压器45万台。小水电较多的省为广东、四川、湖南、福建等省。
