曾任辽宁省经委技术局干部，辽宁省工业技术开发中心副主任、主任，辽宁省经济技术开发公司副总经理、总经理，中国联通辽宁分公司副总经理、总经理、临时党委书记等职务。

1982年，沈阳化工学院高分子化工专业毕业。

2001年03月，任中国联通副总经理、党组成员。

2002年，获美国纽约州立大学MBA学位。

2004年10月，任中国联通总经理、党组成员。

2006年，获香港理工大学工商管理博士学位。

2008年05月，任中国电信集团公司党组书记、副总经理。

2011年07月，任工业和信息化部副部长、党组成员。

2015年01月，任工业和信息化部副部长、党组成员，国家网信办**副主任。

2015年08月至2019年03月，任中国移动通信集团公司董事长、党组书记。

2019年09月，任第五届中国互联网协会理事长。

2020年04月，任国家电网有限公司外部董事。

2011年7月8日，国务院决定，任命尚冰为工业和信息化部副部长。

2015年8月24日，中国移动通信集团公司召开中层以上管理人员大会。宣布党**、国务院关于中国移动通信集团公司主要**变动的决定，尚冰任中国移动通信集团公司董事长、党组书记。

2016年3月，被免去国家互联网信息办公室副主任（**）职务。

2019年3月4日，中国移动通信集团有限公司召开中层以上管理人员大会，**组织部张建春副部长宣布了**关于中国移动通信集团有限公司主要**调整的决定：免去尚冰的中国移动通信集团有限公司董事长、党组书记职务。

2019年9月，尚冰当选为第五届中国互联网协会理事长。

2020年4月，央企人事调整，聘任尚冰为国家电网有限公司外部董事，聘期三年（自2020年2月至2023年1月）。