Het oudste nog bestaande gebouw van de Namibische hoofdstad werd oorspronkelijk gebouwd om de Duitse koloniale troepen te huisvesten aan het einde van de 19e eeuw en werd later een museum voor de onafhankelijkheidsstrijd van Namibië, maar ook een historische bezienswaardigheid op zich. Het controversiële Reiterdenkmal, een vermeend symbool van Duitse dominantie in de regio, is verplaatst van zijn oorspronkelijke plek tegenover de Christuskirche naar het erf van Alte Feste voor opslag. De binnenruimte is sinds medio 2019 gesloten voor publiek; enkele exposities uit oorlogstijd worden aan de voorkant tentoongesteld.

Het voormalige arbeidershuis, waar Lenin en Stalin hun eerste ontmoeting hadden, biedt een suggestieve setting om je te vertellen over de betrekkingen tussen Finland en de Sovjet-Unie en het leven van één van de belangrijkste communistische leiders. De plek is ook uniek omdat het het enige museum ter wereld is dat buiten Rusland aan Lenin is gewijd.

De nationale kunstgalerie is een modern multifunctioneel centrum voor kunst en cultuur. Bezoekers maken kennis met een permanente expositie met Litouwse moderne en hedendaagse schilderkunst, beeldhouwkunst, grafiek, fotografie, objecten, installaties en videokunst. Hier kun je ook deelnemen aan culturele evenementen, lezingen en educatieve programma's.