1990 yılında emekli olduğu I. M. Pei & Associates (güncel adıyla Pei Cobb Freed & Partners) mimarlık ofisini 1955 yılında kurdu. Altmış yıllık kariyeri boyunca, Paris'teki Louvre ek binası, Hong Kong'daki Bank of China Tower, Washington DC'deki East Building of the National Gallery of Art ve Boston'daki JFK Presidential Library gibi eserler ile uluslararası önem ve şana sahip projeler üretti.
I.M. Pei, bir modernist olarak bilinmesine, üçgen, daire ve kare gibi basit geometrilerin mimarisine dayanan kübist projeler ile dikkat çekmesine rağmen, Uluslararası Tarz’ın (International Style) doğasında bulunan küreselleşmenin etkilerine karşı direndi. Bunun yerine bağlamsal ve üslup arasındaki çeşitliliğini ve dengeyi savundu.