市长选战
朱利安尼一直担任联邦检察官直到1989年1月，随着雷根总统任期结束而辞职。他接着加入了纽约市的伟凯律师事务所（White
& Case）。他一直在伟凯律师事务所工作直到1990年5月，接着又加入了同在纽约市的安德柯尔律师事务所（Anderson Kill）。
朱利安尼以民主党党籍开始他的政治生涯，但不久后便转变为无党派。最后他则决定投入共和党籍。
1989年市长选举
朱利安尼在1989年以兼具共和党和自由党（Liberal
Party，纽约市的一个小政党）身份参选纽约市的市长，试图继承离职的市长Ed
Koch。但朱利安尼以47,080票的差距输给了民主党的候选人大卫·丁勤时（David Dinkins），这次选举是纽约市历史上票数差距最近的一次选举。
1993年市长选举
在1993年朱利安尼再度参选纽约市长，当时选举中的主要议题在于犯罪和税赋的政策。朱利安尼抨击当时现任的市长大卫·丁勤时过度扩张了市政府的预算、并且缺乏管理市政的才干。丁勤时不断强调他在担任市长任内促进了纽约市的多元文化面貌，然而他任内却也在布鲁克林区发生了反犹太主义的暴动、以及当地黑人社群对于韩国人商行的抵制运动。
朱利安尼强调纽约已经面临社会和政治秩序崩乱的危险，并批评丁勤时并没有能力解决这样的混乱。朱利安尼也批评丁勤时治下的纽约无法面临当时全国性的经济衰退，使得失业率高涨不下—在1989年到达6.7%、在1992年还飙涨至11.1%，也使纽约市的犯罪率达到历史新高纪录。与丁勤时大力宣扬在他任内纽约市的种族多元有如“多采多姿的马赛克”不同，朱利安尼强调要恢复社会秩序、处理当今面临的问题，而非争论过去或未来才会面临的议题。朱利安尼强调解决纽约市的贫穷、福利制度、以及流落街头的流浪汉数量，并且透过增进治安、公共建设、以及城市活化来达到改善纽约市形象的目标。
朱利安尼强调将注重警察部门在减低一般犯罪和骚扰罪行上的效率，以改善纽约市的城市生活品质：“这是为了那些酒醉和吸毒乞丐所支付的道路清洁费、这是为了在那些汽车等候红绿灯时有洗车夫清洁它们。这是一场对付脏污的大战、对付那些由小贩和乞丐留下的杂乱垃圾、对付那些在肮脏街头露天贩毒的家伙。”
最后朱利安尼获得49.25%的选票，超过丁勤时所获得的46.42%，以53,367票的差距赢得市长选举。他成为自1969年以来第一个当选纽约市长的共和党人。
1997年连任选举
朱利安尼在1997年的连任选举中的对手是民主党的纽约市议会女议员Ruth
Messinger。朱利安尼积极的投入连任选举，将自己塑造为一个清洁了纽约市的坚定领导者形象。在整场选战中朱利安尼都于各种民调里领先，而且在募款数量上也占有优势。在另一方面，Messinger则失去了许多民主党传统票仓地区的支持。最后，朱利安尼获得了59%的选票，大幅超过
Messinger的41%的选票，并且成为共和党自从1941年来，第一个赢得连任选举的纽约市长。
2000年参议院选举
由于纽约市市长的任期限制，朱利安尼并没有角逐第三任的市长任期。在1999年4月，朱利安尼组成试探委员会，研究2000年角逐纽约州参议员议席的可能性，以取得任职多年而应届退休的民主党议员Daniel
Patrick
Moynihan所空出的职位。朱利安尼所预计要对抗的竞争对手是当时美国的第一夫人赫拉蕊·克林顿。在2000年5月19日，就在共和党快要进行初选之前，由于前列腺癌病发，朱利安尼突然撤回了参选的申请。
