Die Häftlinge wurden bei der Arbeit in den Steinbrüchen zu Tode schikaniert, erschlagen, erschossen, in der Krankenstation »abgespritzt«, d. h. mit einer Injektion ermordet, im Winter bei »Badeaktionen« zu Tode gebracht oder sie starben an den Folgen von Unterernährung und Erschöpfung. Von den Vernichtungsmaßnahmen betroffen waren vor allem Juden aller Nationalitäten, Polen, sowjetische Kriegsgefangene, »Zigeuner«, republikanische Spanier sowie die offen »zur Vernichtung durch Arbeit« eingewiesenen »Sicherheitsverwahrungs«-Häftlinge.

Kranke und schwache Häftlinge wurden 1941/42 und 1944 in der Euthanasieanstalt Hartheim bei Linz ermordet.

Im Herbst 1941 wurde mit dem Bau der Gaskammer im Krematoriumsbereich begonnen. Aus einem benachbarten Raum der eigentlichen Gaskammer wurde Zyklon B in einen eigens gebauten Einfüllapparat geschüttet und das Gas mittels Ventilator von dort durch ein Rohr in die Gaskammer eingeführt. Nach den Erkenntnissen des Landgerichts Hagen und neuesten Forschungen muss davon ausgegangen werden, dass mindestens 3455 Menschen, meist sowjetische Kriegsgefangene, durch Giftgas in der Gaskammer von Mauthausen ums Leben kamen.

Ab Herbst 1941, nach anderen Angaben ab Frühjahr 1942 setzte die SS auch einen Gaswagen ein, in dem mindestens 900 Häftlinge getötet wurden. In den letzten April- und ersten Maitagen 1945 ließ die SS die technischen Einrichtungen der Gaskammer demontieren und belastendes Material verbrennen.