袁行霈，出身于一个传统的读书人家庭，家庭培养了袁行霈对古典文学的兴趣。1953年袁行霈考入北京大学中文系。1957年北大中文系毕业留校任教 ，从此开始了教学与科研生涯。
1958年秋先是带着学生到北京城子煤矿半工半读，每周三天下矿井挖煤三天上课，持续了两个多月。接着又到密云钢铁公社劳动了大半年，烧过锅炉，做过炉前工、木工、铸工。1959年夏袁行霈又下放到斋堂公社白虎头大队劳动。
1960年3月才回到北大。1962年以后那段狠抓阶级斗争的岁月里，先生被定为全校的“白专”典型。
文革开始后，受到批判，下放鲤鱼洲“五七干校”劳动了一年多，在一次翻车事故中，从鄱阳湖大堤上摔下来，差一点丢了性命。在压抑的氛围中，先生感到动辄得咎，无所适从，“那是我一生中最不开心的时候”。
1977年高校恢复招生后，袁行霈在北大为本科生和研究生讲授中国文学史、中国诗歌艺术研究、陶渊明研究、唐诗研究、李贺研究、唐宋词研究等课程。袁行霈在教学工作中不断探索进取，取得较好的效果。
1979年晋升讲师。独自撰写了《山海经初探》、《汉书艺文志小说家考辨》、《魏晋玄学中的言意之辨与中国古代文艺理论》等论文在1979年发表，开始引起学术界的注意。
1980年任副教授。1982年至1983年，袁行霈应日本东京大学的邀请，前往讲授陶渊明研究等五门课程。1984年成为中文系特聘教授。1986年取得博士生导师资格。
1992年，袁行霈兼任北京大学中国传统文化研究中心主任、《国学研究》主编。1992年至1993年，袁行霈任新加坡国立大学中文系客座教授。 1994年任大型系列电视专题片“中华文明之光”（150集）总顾问。1997年以美国哈佛燕京学社访问学者身份在哈佛大学访问研究，并在哈佛、耶鲁、哥伦比亚、华盛顿、夏威夷等大学演讲。1998年再次任新加坡国立大学中文系客座教授。1999年出任北京大学人文学部主任。
2000年又出任北京大学国学研究院院长。2004年任香港城市大学客座教授。2005年被北京大学确认为资深教授，享受理科院士待遇，同年被新加坡南洋理工大学聘为教授（与北京大学联聘）。此外，先后在日本爱知大学，美国哈佛、耶鲁、哥伦比亚、华盛顿、夏威夷等大学，以及香港大学、台湾大学讲学。第八、九届全国政协常委，第十届全国人大常委。民盟中央副主席。中央文史研究馆馆长。国务院学位委员会委员。 2006年1月18日，被聘为中央文史研究馆馆长。 1953年，先生考进北京大学，从此受到严格的学术训练。1957年毕业，被林庚先生留
做助教。在1960年至1964年的几年间，袁行霈和陈贻焮先生一起跟随他们的导师林庚先生主编了《魏晋南北朝文学史参考资料》，还参加了林庚、冯沅君主编的《中国历代诗歌选》的选注工作。做这些工作需要阅读大量的作品和史料，为袁行霈今后的研究打下了良好的基础。
1978年先生在光明日报发表了一篇文章《“纵通”与“横通”》，文章不长，却是先生第一次公开地表白自己的学术追求，预示着袁行霈学术道路上一个新的开始。文章指出：所谓“纵通”是“就文学论文学，着重研究文学史上各种现象、体裁、流派的发生、发展和衰落；研究一个个时代和作家的成就，及其承上的作用和启下的影响；力求将上下三千年文学发展的来龙去脉整理清楚”。所谓“横通”就是力求将文学和史学、哲学、宗教、艺术乃至自然科学结合起来进行研究，“并努力从它们的关联上，从它们之间的相互影响、渗透的关系上，寻求带有规律性的东西”。袁行霈认为将“纵通”与“横通”结合起来，从更广阔的背景上观察和研究文学发展的历史，“一定会有很多新的发现，甚至开拓出一些新的学科领域”。
1987年袁行霈的《中国诗歌艺术研究》出版，此后在日本又出版了此书上编的日文译本，在韩国出版了全书的韩文译本。学界对于这一专著的认可令先生感到欣慰，然而谈及这本书的时候，先生屡屡提及的却是林庚先生所作的序言，其中显示了两代学者心灵的脉脉相通，特别是袁行霈对导师的感恩之情。林庚先生在序言中说：“人之会心，或囊括宇宙，或隐于针锋，灵犀脉脉，若相问答。行霈为学多方，长于分析，每触类而旁通，遂游刃于群艺，尝倡边缘之学；举凡音乐、绘画、宗教、哲学，思维所至，莫不成其论诗之注脚。本书上编盖由浅入深，沿波以探源；下编则青山历历，峰峦自见。仿佛两条坐标轴构成一幅坐标图，交辉映照，互为表里。话固不可以若是其几也，譬喻又总是跛足的，不知其可耶非耶。多年来行霈时叩我柴扉，每纵谈终日，乐而忘返；盖习以为常，亦性之所近也。”1987年袁行霈应邀到日本爱知大学讲学，此后不久出版的《中国文学概论》就是这次讲学的讲稿。
袁行霈认为做学问无非是两种方法：一种是把复杂的事情说得简单明白；另一种是对简单的事情，作出深入细致的分析。先生认为，学问也和诗歌一样具有气象。“学问的气象，如释迦之说法，霁月之在天，庄严恢弘，清远雅正。不强服人而人自服，无庸标榜而下自成蹊。”而形成这种气象至少有三个条件：第一是敬业的态度，对学问十分虔诚，一丝不苟；第二是博大的胸襟，不矜己长，不攻人短，不存门户之见；第三是清高的品德，潜心学问，坚持真理，堂堂正正。先生说，具有大家气象的学者具有一些共同的特点：袁行霈们学术的格局和视野开阔，能够左右逢源，游刃有余，处处显示出总揽全局的能力；袁行霈们的学问都具有开山之功，开拓新领域，建立新学科，发凡起例，垂范后学；袁行霈们都是学问和道德并重，用正直、诚实、刚强成其宽容、独立之气象。
1995年，教育部请袁先生主编面向21世纪教材《中国文学史》。袁行霈约请了19所高校的29位学者，营造了良好的学术气氛，大家团结一致，经过两年半的努力，完成了全部书稿，共四卷。袁行霈不但将这部书定位为教材，也定位为学术著作，因为好的教材都应反映最新的学术成果，并有独到的见解。袁行霈还亲自撰写了总叙论、第三卷叙论，以及第三卷的两章。袁行霈利用去美国哈佛燕京学社访问研究的机会统改书稿，在哈佛大学的图书馆夜以继日辛苦了将近四个月。袁行霈手提着一箱子书稿，从中国到美国，又从美国返回中国。