Urodził się 28 lutego 1852 r. w Baden niedaleko Wiednia, jako czwarty z trzynaściorga rodzeństwa. Jego ojciec był urzędnikiem gminnym i muzykiem.
W 1858 r. błogosławiony rozpoczął naukę w szkole parafialnej w Baden, a w 1861 r. w szkole muzycznej w Heiligenkreutz. Jesienią 1865 r. zamieszkał u ciotki w Wiedniu, gdzie kontynuował naukę w gimnazjum. W październiku 1869 r. wstąpił do nowicjatu pijarów. Poznał wówczas bliżej postać św. Józefa Kalasantego, założyciela Zakonu Szkół Chrześcijańskich. Stał się on modelem życia i działalności apostolskiej bł. Antoniego.
Sytuacja polityczna spowodowała, że opuścił zakon pijarów i wstąpił do seminarium arcybiskupiego. Ukończył również studia na Uniwersytecie Wiedeńskim, a 25 lipca 1875 r. przyjął święcenia kapłańskie. Wcześniej, w 1873 r. postanowił przyjąć jako drugie imię Maria. W latach 1875-1879 pracował jako wikariusz w Marchegg. W 1879 r. został mianowany kierownikiem duchowym zgromadzenia Sióstr Miłosierdzia w szpitalu w Sechshaus w Wiedniu. Zetknął się wówczas z problemami młodych robotników i rzemieślników, pacjentów szpitala. Postanowił założyć stowarzyszenie mające na celu kształcenie religijne czeladników, przygotowywanie ich do życia i popieranie ich słusznych żądań. Na czele stowarzyszenia stali ludzie świeccy, a ks. Schwartz był jego kierownikiem duchowym. Powstało ono oficjalnie w 1883 r.
Błogosławiony ze wszystkich sił walczył o odnowę wiary robotników. Często prosił Boga: Daj mi jedynie łaskę gorliwości w pracy duszpasterskiej dla Ciebie, aby zbawiać dusze! Chcę ofiarować swe życie za każdą duszę, jeśli w ten sposób będę mógł ją ocalić!
W 1888 r. założył czasopismo katolickie dla rzemieślników i robotników, które początkowo sam redagował. Rok później, w przeciągu ośmiu miesięcy pod jego kierunkiem został wybudowany pierwszy kościół dla robotników wiedeńskich, pod wezwaniem św. Józefa Kalasantego. W tym kościele 24 listopada 1889 r. sługa Boży założył Zgromadzenie Chrześcijańskich Robotników św. Józefa Kalasantego. W następnych latach powstały domy w Dolnej Austrii, w Steinermarku oraz w południowym Tyrolu i Budapeszcie.
Nowe zgromadzenie roztaczało opiekę religijną nad robotnikami, zwłaszcza młodymi. Jego członkowie organizowali spotkania niedzielne, oratoria, prelekcje o nauce społecznej i o tematyce religijnej w szkołach zawodowych i w fabrykach. Ks. Schwartz przyczynił się także do powstania wielu stowarzyszeń mających na celu obronę praw robotników. On sam i jego współbracia sprzeciwiali się wyzyskowi robotników, walczyli o poprawę ich warunków socjalnych i bytowych, uczestniczyli w akcjach strajkowych. Antoni Maria Schwartz założył pierwsze biuro zatrudnienia dla czeladników, nawiązał kontakty z wieloma chrześcijańskimi przedsiębiorcami. Dzięki tej inicjatywie tysiące młodych ludzi znalazło pracę. Dla czeladników spoza Wiednia wybudował pensjonat.
Zmarł 15 września 1929 r. Pochowano go najpierw na cmentarzu w Hietzing, a potem w kościele robotników przy domu macierzystym zgromadzenia.
6 kwietnia 1995 r. w obecności Ojca Świętego Jana Pawła II został promulgowany dekret Kongregacji Spraw Kanonizacyjnych dotyczący heroiczności cnót Antoniego Marii Schwartza. Został beatyfikowany przez papieża Jana Pawła II w dniu 21 czerwca 1998 roku.
Jego wspomnienie liturgiczne w Kościele katolickim obchodzone jest w dzienną pamiątkę śmierci. Wspólnoty pijarskie wspominają błogosławionego 17 września.
Fragmenty homilii wygłoszonej przez św. Jana Pawła II podczas Mszy św. beatyfikacyjnej:
Sto lat temu w Wiedniu ks. Antoni Maria Schwartz troszczył się o los robotników, zajmując się przede wszystkim młodymi czeladnikami, uczącymi się zawodu. Pamiętając o własnym skromnym pochodzeniu czuł się szczególnie bliski ubogim robotnikom. Dla opieki nad nimi założył, przyjmując regułę św. Józefa Kalasantego, Zgromadzenie Chrześcijańskich Robotników, które do dzisiaj bujnie się rozwija. Jego wielkim pragnieniem było nawrócenie społeczeństwa i odnowienie go w Chrystusie. Był wrażliwy na potrzeby czeladników i robotników, którym często brakowało oparcia i przewodnictwa. Ks. Schwartz zajmował się nimi z miłością, angażując swe twórcze zdolności i zdobywając środki na zbudowanie «pierwszego kościoła robotników Wiednia». Ta skromna świątynia, ukryta pośród kamienic zamieszkiwanych przez ubogich, jest podobna do dzieła swojego założyciela, który ożywiał ją swoją pracą przez czterdzieści lat.
Opinie na temat wiedeńskiego «apostoła robotników» były podzielone. Wielu sądziło, że jego działalność idzie za daleko. Inni uważali go za godnego najwyższego uznania. Ks. Schwartz pozostał wierny samemu sobie i nie bał się podejmować nawet bardzo śmiałych działań. Ze swoimi petycjami o tworzenie ośrodków formacji zawodowej dla młodzieży oraz o poszanowanie niedzieli jako dnia wolnego od pracy dotarł nawet do parlamentu.
Pozostawił nam orędzie: ze wszystkich sił brońcie niedzieli! Pokażcie, że niedziela nie może być dniem roboczym, ponieważ jest świętowana jako dzień Pański! Wspierajcie przede wszystkim młodych pozbawionych pracy. Kto dzisiaj daje młodym możliwość zapracowania na chleb, przyczynia się do tego, że gdy jutro staną się dorośli, będą mogli przekazać swoim dzieciom sens życia. Dobrze wiem, że nie ma tu łatwych rozwiązań. Dlatego przypominam wam wezwanie, któremu bł. ks. Schwartz podporządkował wszelkie formy swojej działalności: «Musimy się więcej modlić!»