Relieful în teritoriul administrativ este extrem de denivelat, specific zonei montane, cu defilee pe traseele celor două Jiuri (Jiul de Est și Jiul de Vest). Masivele muntoase ce mărginesc depresiunea sunt: Vâlcan la sud, Retezat la nord, Parâng la est și Godeanu la vest, altitudinea maxima din zona fiind vârful Parângul Mare de 2.519 m. De-a lungul Jiului de Est s-a format o luncă și o terasă, aceasta din urmă având o suprafață netedă și fiind ușor fragmentată. Deoarece ocupă treapta intermediară dintre piemonturi și luncă ea a fost pusă în valoare prin culturile agricole și prin prezența în lungul acesteia a principalelor căi de comunicație.

Prin Petroșani trece Jiul de Est și cei patru afluenți ai săi: Maleia, Staicului, Slatinioara și Salatruc. Datorită precipitaților abundente pe suprafața Petroșaniului se găsesc numeroase ape subterane și izvoare.

Municipiul dintre munții Parâng, Godeanu, Retezat și Vâlcan, întrunește caracterele unui bazin geologic binedefinit, ale uni bazin hidrografic, și ale unei depresiuni morfologice și geografice în general.

După forma și poziția pe care o deține în ansamblul reliefului, Municipiul Petroșani, se înscrie în acel uriaș culoar longitudinal, care împarte Carpații Meridionali. Acesta este un culoar depresionar cu accentuări puternice regionale, care ține nu numai de modelarea târzie a Carpaților Meridionali, ci și de însăși structura lor și de definirea tectonică a acestei unități în diferite etape geologice.

Prima schițare a bazinului în care se gasește și Muncipiul Petroșani, ține încă din faza orogenică mezocretacică a șariajului carpatic, dar numai cu multe milioane de ani mai târziu, în oligocen, s-a produs scufundarea și invazia mării prin care începe ciclu de sedimentare din acest bazin.

Cele mai vechi depozite cu care a început umplerea bazinului sunt alcătuie din conglomerate cu ciment argilos roșu. Fragmentele de roci cristaline și dispunerea lor într-o stratificație torențială constituie un prețios indicu pentru aspectul general al regiunii din acea epocă. Munții din jur formau în marea oligocenă un adevărat arhipelag suspus unei eroziuni active. Apele scurte și repezi brăzdând insulele arhipelagului au transportat aluviunile grosiere, care, depuse pe fundul mării, au devenit conglomeratele scoase la zi de eroziune pe laturile de sud si de vest ale bazinului. Trecerea de la oligocen la miocen a însemnat nu numai o domolire a intensității sedimentării și schimbării naturii formațiunilor (o alternanță de marne și argile) dar și începutul unei faze de depunere de o importanță deosebită pentru această regiune.

În noul orizont marno-argilos, care avea o grosime de aproximativ 300m și care a fost depus în cu totul alte condiții , au apărut numeroase intercalații de gresii, șisturi, cărbunoase și cărbuni, ceea ce atestă o regiune liniștită sub aspectul frământărilor din lăuntrul scoarței și un climat cald, favorabil dezvoltării unei vegetații luxuriante, din care s-au putut forma cărbunii. În orizonturile de cărbuni s-au găsit resturi din trunchiri de Sequoia, Nuc, Ulm. Cărbunii de aici s-au mai format și din frunzișurile și trunchiurile unor arbori care cresc azi numai în locurile cu climat cald, precum Scorțișoara și Dafin-ul. Sedimentarea din solul bazinului Petroșani a continuat până la sfârșitul terțiarului. În această perioadă s-au depus bancuri puternice de conglomerate în alternanță cu gresii și nisipuri, dar și pietrișuri sau bolovănișuri cu stratificație torențială. Dintre toate aceste sedimente depuse în bazinul Petroșani, numai orizontul considerat de trecere de la oligocen la miocen conține strate de cărbune.

Geologul Nicolae Oncescu consideră că formarea succesivă a stratelor de cărbunii s-a produs astfel: „ Alternanța frecventă de starte marine, formate din gresii și marne, cu strate laguanre propriu-zise, reprezentate prin roci bituminoase și cu depozite de apă dulce, reprezentate prin cărbuni, ne permit să deosebim mumeroasele cicluri de sedimentare, datorate unor mișcări eustatice ale bazinului. Într-un astfel de ciclu s-au format la început depozite marine, uneori conglomeratice, apoi depozite lagunare cu șisturi bituminoase, ciclul încheindu-se cu o fază de apă dulce în timpul căreia s-a stabilit în bazin o turbărie din care a ieșit un strat de cărbune”.

Datorită încetiniri și staționări ritmice de scufunadre a bazinului, s-au format mai multe orizonturi de cărbuni, foarte inegal dezvoltate și neuniform incarbonizate.Calitatea cărbunelui din subsolul Petroșaniului se datorează condiților tectonice din ultima parte a terțialului. Astfel, deoarece mișcările tectonice au fost foarte puternice, cărbunele din Petroșani prezintă calitați superioare. Prin grăbire procesului de incarbonizare, cărbuni au căpătat calități de o deosebită importanță industrială(cocsifică și distilă). Depresiunea, în timpul existenței ei ca golf, al mării terțiare a suferit o afundare lentă, ea neputând sa fie umplută cu sedimente pentru a devenii uscat. În pliocen s-a produs procesul de colmatare, iar depresiunea a devenit uscat. Acest uscat a fost antrenat în mișcările de înălțare în bloc al întregului lanț Carpatic. După exondare apele, au început să erodeze relieful, pe care înainte au contribuit la formarea lui. Odată ce apele au început să erodeze relieful acestea au înlăturat stratele unul după altul,iar în văile lor au format defilee. Existența unei succesiuni de roci cu comportare diferită la eroziune a permis sculptarea unor forme interesante (pereți abrupți, țancuri) care întăresc pitorescul regiunii.

Solul Depresiunii Petroșani se încadrează în grupa solurilor automorfe și hidromorfe, din care cele mai răspândite sunt cele silvestre podzolite brune și brune galbui.