Columbia het gegroei op die vallyn van die Congaree-rivier, wat gevorm word deur die samevloeiing van die Broad-rivier en die Saluda-rivier. Die Congaree was die verste binnelandse punt van riviernavigasie. Die energie van vallende water het ook die vroeë molens van Columbia aangedryf. Die stad het hierdie ligging benut wat drie riviere insluit deur homself "The Columbia Riverbanks Region" te doop. Columbia is ongeveer halfpad tussen die Atlantiese Oseaan en die Blue Ridge Mountains geleë en sit op 'n hoogte van ongeveer 292 vierkante voet (89 vierkante meter).
7.0