Politisk karriere under Stalin
I 1925 gik Chrusjtjov ud på fuldtids partivirksomhed som partisekretær for Petrovsko-Mariinsk distrikt Yuzovka. Han adskilte sig ved sit hårde arbejde og sin viden om mine og fabriksforhold. Han blev snart opmærksom på Joseph Stalins nære medarbejder, Lazar M. Kaganovich, generalsekretær for det ukrainske partis centrale komité, der bad Khrusjtjov om at ledsage ham som ikke-afstemningsdelegat til den 14. partikongres i Moskva. I de næste fire år – i Yuzovka, derefter i Kharkov (nu Kharkiv) og Kiev – var Chrusjtjov aktiv som festarrangør. I 1929 fik han tilladelse til at gå til Moskva for at studere metallurgi på Stalin Industrial Academy. Der blev han udnævnt til sekretær for akademiets partikomité. I 1931 vendte han tilbage til fuldtids festarbejde i Moskva. I 1933 var han blevet anden sekretær for Moskvas regionale komité.
I de tidlige 1930ere konsoliderede Khrushchev sit greb om partiets kadrer i Moskva. Han overvågede færdiggørelsen af Moskva-metroen, som han modtog Lenins orden for i 1935. Det år blev han første sekretær for Moskvas by og regionale partiorganisation – faktisk guvernøren i Moskva. I det foregående år, på den 17. partikongres, var han valgt som fuldgyldigt medlem af det 70 mand store centralkomité for det kommunistiske parti i Sovjetunionen (CPSU).
Khrushchev var en nidkær tilhænger af Stalin i disse år og deltog i udrensningerne af partiledelse. Han var en af kun tre provinsielle sekretærer, der overlevede massehenrettelserne under den store udrensning i 1930erne. Han blev medlem af det konstitutionelle udvalg i 1936, et suppleant til centralkomiteens regerende politburo i 1937 og samme år et medlem af udenrigsudvalget for den øverste sovjet. Et år senere blev Khrushchev kandidat til medlem af politbureauet og sendt til Kiev som første sekretær for den ukrainske partiorganisation. I 1939 blev han fuldt medlem af politbureauet.
I 1940, efter at sovjetiske styrker havde besat det østlige Polen, præsiderede Khrusjtsjov over “integration” af dette område i Sovjetunionen. Hans hovedmål var at afvikle både de polske og ukrainske nationalistiske bevægelser samt at genoprette den kommunistiske partis organisation i Ukraine, som var blevet knust under den store udrensning. Dette arbejde blev afbrudt af den tyske invasion af Sovjetunionen i juni 1941. Khrushchevs første krigstid var at evakuere så meget af Ukraines industri som muligt mod øst. Derefter blev han knyttet til den sovjetiske hær med rang af generalløjtnant; hans hovedopgave var at stimulere civilbefolkningens modstand og opretholde forbindelsen med Stalin og andre medlemmer af Politbureauet. Han var politisk rådgiver for marskalk Andrey I. Yeremenko under forsvaret af Stalingrad (nu Volgograd) og for generalløjtnant Nikolay F. Vatutin under den enorme stridsvognskamp i Kursk.
Efter befrielsen af Ukraine i 1944 genoptog Khrusjtjov kontrollen med Ukraine som første sekretær for den ukrainske partiorganisation. Han arbejdede for at gendanne civiladministrationen og bringe det ødelagte land tilbage til et eksistensniveau. En hungersnød i 1946 var en af de værste i Ukraines historie; Khrushchev kæmpede for at genoprette kornproduktionen og distribuere fødevareforsyningen mod Stalins insistering på større produktion fra Ukraine til brug i andre områder. I denne periode fik Khrushchev en førstehånds bekendtskab med problemerne med sovjetisk landbrugsmangel og planlægning. I 1949 kaldte Stalin ham tilbage til Moskva, hvor han overtog sit gamle job som leder af Moskva byparti og samtidig blev udnævnt til sekretær for CPSUs centralkomité.
Perioden 1949–53 var langt fra behageligt for Khrusjtjov og andre medlemmer af den sovjetiske ledelse, der befandt sig bøn i Stalins paladspolitik. Khrushchev flyttede mere og mere ind i landbruget, hvor han begyndte sine ordninger for agrogorod (“landbrugsby”) og større statsbedrifter på bekostning af de konventionelle kollektiver. Hans innovationer blev imidlertid afvist i 1951, da ansvaret for landbruget blev overført til Georgy M. Malenkov.