Josef Mayr-Nusser nació en 1910 en Bolzano, Italia. Sus padres eran católicos devotos e inculcaron en Josef y su hermano mayor, Jakob, un gran amor hacia Cristo y su Iglesia. Jakob finalmente se convirtió en sacerdote, mientras que Josef siguió siendo un católico laico fiel a su fe.
A una edad temprana se fascinó por la vida de Frederick Ozanam (fundador de la Sociedad) y San Vicente de Paúl.
Josef se casó con Hildegard Straub en 1942 y en 1943 tuvieron un hijo, al que llamaron Alberto. Pero la ola incontrolable de circunstancias que ocurrieron durante la Segunda Guerra Mundial desgarró rápidamente a la joven familia.
Los nazis se habían apoderado de Bolzano y Josef fue reclutado y enviado a Prusia para entrenamiento militar. Josef despreciaba a Hitler y a sus nazis e incluso era miembro de un grupo antinazi llamado "Andrea Hofer Bund". Cuando se le llamó para prestar juramento de lealtad a Adolf Hitler, su destino quedó sellado.
El día en que se le pidió que hiciera el juramento fue el 4 de octubre de 1944. Él dio un paso adelante y dijo: "No puedo prestar juramento a Hitler en el nombre de Dios. No puedo hacerlo porque mi fe y conciencia no lo permiten".
Sus amigos rápidamente trataron de hacer que se retractara. El se negó. Tiraron de él, lo gritaron y lo sacudieron. Sin embargo, se negó. Él creía que no había manera de que el nazismo pudiera reconciliarse con el cristianismo. Era una ideología que era opuesta a la ley divina de Dios. Fue sacado de las filas y llevado a Danzig, donde fue procesado.
En febrero de 1945 Josef fue condenado a muerte por traición y se le ordenó fusilar en Dachau. Durante el viaje se contagió de disentería y murió en el tren. Cuando su cuerpo fue encontrado, tenía una Biblia y un rosario con él. Tenía 34 años.
La beatificación tuvo lugar en 18 de marzo de 2017, en Bolzano