Între anii 1980 – 1985, Constantin Olteanu a îndeplinit funcția de ministru al Apărării Naționale și a fost avansat de Nicolae Ceaușescu la gradul de general-colonel (cu trei stele) – cel mai înalt grad militar care se atribuia în acea perioadă în România.
În anul 1985, Constantin Olteanu a fost numit prim-secretar PCR și primar al Bucureștiului, deținând această funcție până în anul 1988.
Olteanu relata ulterior că Nicolae Ceaușescu, abia întors dintr-o vizită în URSS, l-a convocat la el și i-a spus: “Mergi pe linie politică, în locul lui Pană, iar în locul tău o să-l punem pe Milea”.
Constantin Olteanu se lăuda că în mandatul său de primar s-au realizat modernizarea râului Dâmbovița, continuarea lucrărilor la metrou, construcția de blocuri și prelungirea fostului bulevard Victoria Socialismului până la Șoseaua Mihai Bravu.
Din 1988 până în decembrie 1989, Constantin Olteanu a fost secretar al CC al PCR, inițial pentru propagandă și presă (20 mai 1988-octombrie 1989), apoi pentru relații externe.
În perioada Revoluției din decembrie 1989, Olteanu a fost trimis în Moldova. Pe 11 ianuarie 1990, generalul Olteanu a fost trecut în rezervă, apoi a fost judecat și, în final, a fost achitat.