Em maio de 1960, o governador Freeman nomeou Mondale para o cargo de procurador-geral de Minnesota, após a contenciosa renúncia do titular, e ele foi eleito para o cargo em seu próprio direito naquele outono. Seu instinto de servir como um “advogado do povo” atencioso e trabalhador recebeu um impulso fortuito durante seus primeiros meses no cargo com a investigação e a exposição de fraudes maciças nas atividades de arrecadação de fundos de funcionários da Fundação Irmã Elizabeth Kenny.
Os quatro anos de Mondale como procurador-geral de Minnesota testemunharam várias outras iniciativas de importância estadual e nacional que ampliaram o papel do escritório como protetor dos cidadãos, incluindo o estabelecimento de unidades separadas de proteção ao consumidor, antitruste e de direitos civis; testes e expandir sua autoridade legal em um processo contra uma empresa predatória de conserto de fornalhas; e liderar uma petição de 22 procuradores-gerais do estado que influenciou a decisão histórica da Suprema Corte dos Estados Unidos em Gideon v. Wainwright, que estabeleceu o direito dos réus indigentes em casos de crime receber um advogado nomeado pelo tribunal. Ele também atuou como membro do Conselho Consultivo do Consumidor do presidente (1960-1964).
A entrada de Mondale em a política nacional veio na Convenção Nacional Democrática de 1964, quando como presidente de uma subcomissão do Comitê de Credenciais, ele intermediou um compromisso histórico entre a delegação segregada do Mississippi e o Partido Democrático da Liberdade do Mississippi, que contestou a validade da delegação regular como representantes do Estado pessoas. Embora o acordo irritasse os membros mais fervorosos de ambas as facções, ele neutralizou uma situação potencialmente explosiva e polarizadora e preparou o terreno para a subsequente transformação do Partido Democrata. Como resultado das novas regras adotadas na Convenção de 1964, delegações segregadas foram proibidas e a participação de grupos anteriormente marginalizados se expandiu drasticamente.
Depois que Hubert Humphrey foi eleito vice-presidente dos EUA em 1964, o governador de Minnesota, Karl Rolvaag, nomeou Mondale para substituí-lo no Senado, onde atuou até 1976. Seus primeiros anos no cargo coincidiram com a aprovação dos principais programas sociais e econômicos que definiram a “Grande Sociedade” do presidente Lyndon Johnson, e ele se tornou um de seus defensores mais confiáveis, defendendo medidas econômicas, educacionais, de proteção ao consumidor e de direitos civis. Essas medidas incluíam o trabalho para reunir apoio público em Minnesota para a Lei de Direitos de Voto de 1965; a introdução do que se tornou o Fair Warning Act de 1966, que forçou os fabricantes de automóveis a informar os proprietários de automóveis sobre defeitos de segurança e patrocinando legislação para fortalecer a inspeção e regulamentação governamental de frigoríficos.
Mondale emergiu como uma importante legislação com sua corretora bem-sucedida do Fair Housing Act de 1968, que proibiu a discriminação na venda ou aluguel da maioria dos tipos de habitação. A parte mais polêmica da agenda de direitos civis da Administração Johnson, a legislação de habitação aberta já não havia sido aprovada no Congresso em 1966 e 1967. Mondale concordou em liderar outra tentativa e, por meio de meses de negociações, ele e seus aliados obtiveram apoio que resultou na aprovação do projeto como Título VIII da Lei dos Direitos Civis de 1968.
As iniciativas da Grande Sociedade de Johnson foram gradualmente ofuscadas pela Guerra do Vietnã, que Mondale inicialmente apoiou e mais tarde descreveu como um de seus maiores arrependimentos. Ele inicialmente apoiou a guerra na convicção de que era essencial para bloquear a expansão da União Soviética, mas depois veio a entender que era uma guerra civil interna e se opôs a ela. A viagem do senador Mondale ao Vietnã deu-lhe novas informações sobre a natureza do conflito como uma guerra pela independência nacional e ele ficou sério com as opiniões críticas dos militares da linha de frente. Mondale, junto com o senador Fred Harris de Oklahoma, co-presidiram os Estados Unidos Democratas por Humphrey em sua campanha para a presidência de 1968. Após a perda de Humphrey para Richard Nixon, Mondale buscou e ganhou participação em comitês que lidavam com as necessidades humanas, especialmente as de crianças – o Comitê de Trabalho e Bem-Estar Público e seu Subcomitê para Crianças e Jovens, o Comitê Selecionado de Nutrição e Necessidades Humanas, um Comitê Especial sobre Envelhecimento e, em vários momentos, subcomitês sobre trabalho migratório, aposentadoria, legislação trabalhista, emprego e pobreza, assuntos de veteranos, financiamento da previdência social e educação indígena.
Em 1970, ele foi nomeado presidente do Comitê Seleto de Oportunidades Iguais de Educação, que estudou meios de superar as desvantagens educacionais das crianças pt de bairros pobres e racialmente segregados e que recomendavam programas como escolas magnéticas, projetos de educação especial, televisão educacional e educação bilíngüe que se tornaram parte do cenário educacional moderno.Ele esteve envolvido em legislação para fortalecer projetos de serviços jurídicos; tentou várias vezes engavetar o programa do ônibus espacial; tentou, sem sucesso, reunir apoio para melhorar as condições dos trabalhadores migrantes; e introduziu uma medida abrangente de cuidado infantil que foi aprovada pelo Senado e pela Câmara, mas vetada pelo presidente Nixon.