Johann Michael Nikolaus Schwarz wurde am 21. März 1813 in Hagenbüchach in Mittelfranken geboren. Am 2. September 1839 trat er in das Dresdner Missionsseminar ein.

Er studierte in Erlangen und Leipzig Sanskrit und Tamulisch und wurde am 18. Juli 1843 in Dresden zusammen mit Missionar Ochs „nach dem Telugulande“ ausgesendet.

Ende Februar 1845 zog er nach Tranquebar (heute Tharangambadi) um und arbeitete in Porayar am Seminar und in den Gemeinden.

Schwarz heiratete am 29. November 1849 Karoline Friederike Ernestine Worm. Sie starb aber bereits ein Jahr später bei der Geburt ihres Kindes. Am 30. Juni 1852 heiratete Schwarz die Witwe des dänischen Lehrers Eibye und übernahm im Oktober 1854 dessen Wohnsitz in Trichinopoly (heute Tiruchirapalli).

Später zog die Familie nach Mayavaram (heute Mayiladuthurai). Dort übernahm Schwarz 1870 nach Cordes’ Heimreise übergangsweise das Seniorat. Ende Februar 1871 zog er wieder nach Tranquebar. 1872 wurde er Cordes’ Nachfolger.

Er war 14 Jahre lang unermüdlich im Seniorat tätig, wurde aber im Mai 1884 wegen eines Augenleidens emeritiert. Er organisierte noch den Neudruck von Fabricius’ Bibelübersetzung. In seinen letzten Lebensjahren erblindete er völlig. 

Johann Michael Nikolaus Schwarz starb am 21. Juni 1887 in Tranquebar.