Prvým zrkadlom bola zrejme vodná plocha, na ktorej mohli ľudia pozorovať obraz svojho okolia alebo tiež svoj "obraz". Niekedy v 6. tisícročí pred n. l. sa objavujú leštené obsidiánové dosky, ktoré slúžili ako zrkadlá. Od 2. storočia pred n. l. sa začínajú vyrábať kovové zrkadlá z lešteného bronzu. Tieto zrkadlá všeobecne používali starí Egypťania, Gréci a Rimania. Gréci a Rimania niekedy používali na podobný účel aj leštené striebro.

Používanie sklenených zrkadiel sa datuje do stredoveku. Prvé takéto zrkadlá sa objavili vBenátkach v Taliansku okolo roku 1300 a vo veľkom sa tam vyrábali od 16. storočia. Pôvodný spôsob výroby spočíval v potiahnutí zadnej strany skla zlúčeninou ortuti a cínu. Prvý pokus použiť na tento účel roztok striebra uskutočnil nemecký chemik Justus von Liebig v roku 1836.
Postupne sa vyvinuli rôzne spôsoby výroby v závislosti od spôsobu, akým sa soli striebra redukovali na kovové striebro.
Dnes sa používa roztok dusičnanu strieborného, ktorý sa naleje na povrch skla a nechá sa pôsobiť približne 1 hodinu. Počas tohto času sa dusičnan strieborný postupne redukuje na kovové striebro. Táto vrstva sa vysuší, pokryje šelakom a natrie charakteristickou hnedou farbou. V poslednom čase sa na výrobu zrkadiel používa aj hliník, ktorého výhodou je vyššia odolnosť voči korózii (oxidácii).

Zrkadlá sa vyrábajú aj na priemyselné a vedecké účely. Často sa vyrábajú odparovaním striebra, ródia alebo hliníka a ich vyzrážaním na prednej ploche brúseného skla vo vákuu. Odrazová vrstva dosahuje hrúbku približne 0,1 mikrometra a musí byť povrchovo chránená (kremíkom).