Здание «У Губерну» имеет богатую историю. Оно расположено напротив Муниципального дома и стояло здесь еще до появления Нового города, основанного Чарльзом IV. В XIV веке здесь размещался Монастырь святого Амвросия. После окончания Тридцатилетней войны (1618–1648 гг.) Фердинанд II разрешил ирландским францисканцам открыть школу на месте заброшенного монастыря. С тех пор здание называется «У Геберну».
Строительство церкви в стиле барокко началось в середине XVII века. Здание было сильно повреждено прусскими войсками. В 1785 году монастырь был закрыт во время реформ императора Йозефа II. С тех пор здание никогда не занимали религиозные учреждения.
В конце XVIII века в нем располагалось Чешское театральное сообщество, однако, после смерти его владельца, в здание переехало таможенное управление.
Современный классический вид здания датируется 1806–1811 годами, это работа венского архитектора Л. Монтойера и профессора Д. Фишера.
В XX веке «У Губерну» использовалось в качестве выставочной площадки, и только в 2006 году пришедшее в упадок здание было спасено театром «Губерния». Здание отреставрировали, а часовню заменили сценой. С крыши театра открывается чудесный вид на город.