1818 war K. als Feldmesser tätig und studierte ab 1819 an der Bauakademie und an der Akademie der Künste. 1822 legte er die Bauführerprüfung ab und gründete 1824 mit Friedrich August Stüler den Architekten-Verein zu Berlin, dessen Vorsitz er bis 1862 ausübte. Nach der Baumeisterprüfung 1828 wirkte er als Architekt und wurde 1845 ordentliches Mitglied der Akademie der Künste. 1840 führte er den Umbau des Palais der Prinzessin Amalie zur Russischen Botschaft, Unter den Linden 7/8, aus. Er errichtete die erste Anlage des Krollschen Etablissements, der späteren Krolloper. 1858 bis 1860 führte K. den Umbau der Alten Synagoge aus und im Mai 1859 begann er den Bau der Neuen Synagoge in der Oranienburger Straße, der von Stüler vollendet wurde. Von 1858 bis 1860 entstand nach seinen Plänen das Verwaltungsgebäude des Jüdischen Krankenhauses in der Auguststraße 14. Hier befindet sich eine Gedenktafel, die auch an den Architekten erinnert. K. wohnte im Knoblauchhaus, wo eine Tafel an ihn, wie an andere Bewohner des Hauses erinnert. Sein Ehrengrab befindet sich auf dem Alten Friedhof St. Nicolai und St. Marien (Prenzlauer Berg).
Bauakademie 