V průchodu do níže položeného IV. dvora se nachází malý památník. Na pamětní desce jsou napsána jména koncentračních táborů, do nichž byli vězni z Malé pevnosti deportováni.
V malé budově naproti, v níž dříve sídlila správa IV. dvora, je dnes za skleněnými stěnami uložena zemina ze skladů. V této malé budově sídlila správa IV. dvora.
Tmavá brána vede dolů do nástupiště takzvaného IV. dvora, který museli vězni v letech 1943 a 1944 vybudovat mezi dvěma pevnostními valy, protože ostatní dvory již nemohly pojmout rostoucí masu vězňů. Byly zde nasazeny stovky vězňů tzv. stavebního komanda, kterému velel dozorce Soukup. Při této práci bylo zabito mnoho lidí, zejména židovských vězňů.