1887年，出生于日本大分县。
1911年，从东京帝国大学毕业，专攻德国法律，这所大学的毕业生有许多都进入日本外交界，并由此而踏上政坛。重光葵也不例外，进入外务省工作。
1912年，作为外交使团的一员被派往德国，任日本驻德国大使馆外交官补。
1914年，第一次世界大战爆发后被派往伦敦，任驻英国大使馆书记官，在那里，他对英国制度的赞赏，与许多英国著名人士的友谊和对军国主义的厌恶就扎下了根。
1915年，任驻华公使馆头等参赞。
1918年，任日本驻美国俄勒冈波特兰市领事。
1919年，随日本代表团参加巴黎和会。
1929年初，在青岛登陆的日军，准备向济南进犯有了一定的驻外经验和资历后，重光葵被任命为日本驻上海总领事。
1931年-1932年，任日本驻中华民国大使。
1932年，“一·二八事变”中，他迫使当地不合作的中国军队接受停战协议，但第二天在上海出席“天长节”庆典时，被朝鲜抗日志士投弹炸伤致残。尽管如此，他还是在一星期后在停战协议上签字确认。
1933年5月，一条腿被截肢后的他返回日本，任日本外务省次官。在这期间，由于他对中国和英国的亲善态度，他遭到军部强硬分子反对，没能出任驻中国大使。
1933年-1936年，任外务副大臣“伪满洲国”副总理。
1936年8月，尽管军方反对，他还是出任日本驻苏联大使。在苏联和日本军队在有争议的张鼓峰地区（日方称哈桑湖）发生冲突时，他的能力受到了巨大的考验，他和苏联外交部长马克西姆·李维诺夫进行了极不愉快而严峻的谈判，达成了结束危机的停火协议，由于他的顽强、刚毅，这成了苏联战后把他定为甲级战犯的重要依据。
1938年9月，在英日关系变的微妙时刻他任日本驻英国大使，他的工作很出色，但无法挡住潮流，他一直干到珍珠港事件爆发，英日宣战为止。
1942年1月，任驻汪伪政权“大使”。
1943年4月，任日本外务大臣。在东条英机、小矶国昭和米内光政联合内阁中任外相，这时已经没有外交可言了，只能宣称日本对外战争的目的是“亚洲的解放与复兴”。
1945年4月辞职。
1945年8月，在东久迩宫稔彦王内阁中复任日本外务大臣兼大东亚大臣。
1945年9月2日，代表日本天皇和政府签署日本无条件投降书。当他一瘸一拐地攀爬密苏里号战列舰时，他的军方同事把他看成是巴格多利奥式的叛徒而鄙视，而军舰上的盟军人员则带着残酷的满意心态注视这他的狼狈相。
1946年4月29日，根据苏联的建议他作为甲级战犯嫌疑被远东国际军事法庭关押，由于有16个英美著名外交官替他说情，他被判处有期徒刑7年，是活下来的25个战犯中判的最轻的，宣判后不久即减刑。
1949年11月，获假释出狱。 1952年，获特赦减刑，后返政界当选为众议院议员及改进党总裁。
1954年，当它的党和鸠山一郎的新民主党合并时任自民党副总裁。
1954年12月，在鸠山内阁中复任日本外务大臣。具有讽刺意味的时，他主持了日本和把他送上法庭的苏联之间的重建外交关系的全部活动。
1956年，作为日本政府代表出席联合国大会。在这次大会上，日本正式加入联合国，关于日本在联合国的角色定位，重光葵作了以“日本将成为连结东西方的桥梁”为题的演说。
1957年，突发心肌梗死于神奈川县的家中，终年69岁。