刘遵义教授1964年以优异成绩取得斯坦福大学物理学理学士学位，并先后于1966年及1969年取得加州大学柏克莱分校经济学文学硕士与哲学博士学位。他自1966年起任教于斯坦福大学经济系，1976年晋升为正教授，1992年出任该校首任李国鼎经济发展讲座教授，1992年至1996年间担任斯坦福大学亚太研究中心共同主任，1997年至1999年间担任斯坦福经济政策研究所主任，2006年自斯坦福大学退休并出任李国鼎经济发展荣休讲座教授。

2004年至2010年间刘教授担任香港中文大学校长。2010年至2014年刘教授担任中投国际（香港）有限公司（中国主权财富基金中国投资有限公司之全资子公司）董事长。自2007年起，刘教授兼任香港中文大学蓝饶富暨蓝凯丽经济学讲座教授。

刘教授专研经济发展与经济增长，以及包括中国在内的东亚经济。最早之中国计量经济模型是由他于1966年建立。刘教授著有专书16种，曾于国际学术期刊发表论文210多篇。

刘教授曾任中国人民政治协商会议第十一届及第十二届全国委员会委员及其经济委员会副主任。刘教授现任中国国际经济交流中心副理事长、国际欧亚科学院中国科学中心副主席、中国国家开发银行国际顾问委员会成员及香港中文大学(深圳)高等金融研究院理事会理事长。此外，他也是香港金融管理局外汇基金咨询委员会委员货币发行委员会、香港贸发局一带一路及大湾区委员会委员、团结香港基金副主席及吕志和奖奖项推荐委员会委员及主席，以及台北蒋经国国际学术交流基金会董事会成员。他也是香港友邦保险控股有限公司、中国海洋石油有限公司及中芯国际集成电路制造有限公司独立非执行董事，以及台湾远传电信股份有限公司独立非执行董事。