北京城的损毁早在清末就开始了。首先是义和团运动和八国联军入侵北京时，正阳门城楼和箭楼（1903年被清政府修复）、崇文门箭楼和朝阳门箭楼被焚；然后是北洋军阀统治时期为修环城铁路又拆毁了几处瓮城和箭楼；日本占领时期和国民党统治时期也有不同程度的损毁。但直到解放前夕，北京城的内城还是基本完整的。
1948年冬，北京城已经被人民解放军围得水泄不通，当时攻城部队曾派一名干部密访建筑学家梁思成，向他请教城里有哪些著名建筑和文物古迹需要保护，以便攻城时避开。梁思把北京重点文物的位置准确地标在了北平军事地图上，据说毛泽东曾要求攻城部队注意保护古迹，对照这幅地图进行精确的攻击练习。1949年初，傅作义投诚，北京和平解放，北京城幸免于战火的摧残，得以完整地迎接新中国成立。
然而，费尽周折幸免于战火的北京城，在和平建设时期却受到了更大的破坏。新中国成立后，建设北京的指导思想是把北京建设成工业城市，毛泽东曾在天安门城楼上说过，以后从这里望过去将看到一片烟囱。此后，北京市的城市规划也都是在这样的指导思想下进行的，旧城保护没有受到重视。在这样的情况下，梁思成为彻底保护旧城，提出了一个另建新城的方案。1950年2月，梁思成和建筑学家陈占祥一起提交了《关于中华人民政府行政中心位置的建议》，提出在旧城外西侧另辟新区，作为新中国的政治心脏；一条便捷的东西干道连接新旧二城，如扁担一样担起中国的政治心脏和中国的城市博物馆。这份“梁陈方案”提出后立刻被否定，1957年，陈占祥因此被打成右派，而梁思成因彭真的提前保护，才免遭厄运。
从1952开始，北京外城城墙被陆续拆除，办法是组织市民义务劳动，或动员各单位拆墙取砖取土。几年内，北京外城的墙被全部拆除，内城的墙被拆了一半，留下一半。1953年5月，为改善交通决定把朝阳门和阜成门的城楼及瓮城拆掉，交通取直线通过。1954年，中轴线上的地安门被拆除。1956年，永定门城楼周围城墙被拆掉，1957年，永定门城楼箭楼被拆掉，拆除的理由是“妨碍交通”。1959年，修建天安门广场和人民大会堂工程中，中轴线上的中华门被拆除。1965年7月，地铁工程开始动工，内城城墙的拆除工作也随即展开。1969年，内城城墙在修建地铁和备战备荒中被彻底拆除，城砖大多用在了“深挖洞，广积粮”的全民工程设施上。
