Carlo Ghega wurde in Venedig von Eltern albanischer Herkunft geboren. Nach dem Besuch des k. k. Militärkollegiums ging er mit 15 Jahren zum Studium an die Universität Padua, wo er bereits nach einem Jahr sein Diplom als Ingenieur und Architekt erhielt und ein weiteres Jahr später, bereits mit 17 Jahren den Doktortitel für Mathematik erhielt.

In der Zeit von 1836 bis 1840 war er Bauleiter für die Teilstrecke Lundenburg bis Brünn der Kaiser-Ferdinand-Nordbahn. Während dieser Zeit (1836–1837) studierte er auch das Eisenbahnwesen in England und anderen Europäischen Staaten. Im Jahr 1842 wurde Ghega Gesamtplanungsleiter der zukünftigen südlichen Staatseisenbahn, weshalb er eine Studienreise nach Amerika unternahm. Seine Erkenntnisse dieser Reise flossen nicht nur in Planung und Bau der Semmeringbahn, sondern auch in zwei Publikationen. Ghega veröffentlichte die meisten seiner Schriften parallel zur deutschen auch in identischen italienischen und französischen Ausgaben.

Nach seiner Rückkehr zu den Staatseisenbahnen wurde er mit der Planung für die Errichtung der Bahnlinie Richtung Süden, von Mürzzuschlag, über Graz bis nach Triest beauftragt. Die Bahnüberquerung des Semmerings wurde von vielen seiner Zeitgenossen als technisch aufwändig bis hin zu "nicht möglich" angesehen. Aber bereits 1844 legte er einen Plan für die Überwindung des Semmerings vor, der den Betrieb mit normalen Lokomotiven vorsah, unter Verzicht auf Zahnstangen oder den Seilebenen-Betrieb. Noch bevor der Bau überhaupt beschlossen wurde, begann Ghega bereits die Konstruktion von Lokomotiven, die derartige Steigungen überwinden können, voranzutreiben. Der Baubeginn für die Semmeringbahn war 1848. Noch vor der Fertigstellung 1854 wurde der Ingenieur in den Ritterstand erhoben (1851). Carl Ritter von Ghega entwarf in den Jahren 1853/1854 ein Eisenbahnnetz für die gesamte Habsburger Monarchie.