在那古老而又充满活力的城市北平，吴小如1932年随父母迁居。他的童年在私立汇文一小和育英小学度过，后来他进入了育英中学，那时正值“一·二九”运动的高潮。由于父亲的工作调整，他转到了天津南开中学。抗日战争爆发后，全家搬进了天津租界，他不得不辍学一年。战后的恢复期，他以同等学历考入工商附中高中，并最终毕业于工商学院。
教书成为他职业生涯的一部分，他先后在达文中学、志达中学和圣功女中任职。在1945年的胜利之后，他重新开始大学生活，考入燕京大学文学院，但不久便离开了。在北京大学中文系完成了学习并毕业后，吴小如继续深造，在北大中文系任教。他致力于讲授中国文学史，同时还教授中国小说史、戏曲史、诗歌史以及古典诗词与散文等课程，一直担任讲师近30年，最终晋升为教授。
1980年代末期，他被调至北大中国中古史研究中心工作，并在1991年退休。在此期间，还担任多个社会职位，如中央文史研究馆馆员、北京大学历史系教授及中国楹联学会顾问。此外，他还是《燕京学报》的常务编委，并且参与九三学社的活动。
作为一个多产的作家，吴小如出版了一系列著作。他早年的作品包括《中国小说讲话及》、《古典小说漫稿》以及与他人合著的《小说论稿合集》。此外，对各种类型的小说进行专题研究也成为了他的特色之一。而对于戏曲领域，更是有着深厚的造诣，其作品如《台下人语》、《京剧老生流派综说》和《吴小如戏曲文录》（曾获优秀文化著作奖）广受好评。
对古典诗词的理解与分析也是他的强项之一，《诗词札丛》、《古典诗歌习作与欣赏》、《古典诗文述略》等专著都展现出了其卓越的地位。此外还有其他多部作品，如《读书丛札》，分别在香港和北京出版，是较具见地性的著作。此外，还有一本名为《中国文史工具资料书举要》的综合性工具书，也分別在两地出版受到好评。此外近期还有诸多新作，如《当代学者自选文库——吴小如卷》、《莎斋笔记》、《今昔文存》、《读书拊掌录》、《心影萍踪》（记录其个人经历）以及 《常谈一束》，这些作品都是关于阅读与写作生活的一种体现。
