北京胡同的布局脉络最早可追溯到唐辽时期，辽南京即唐幽州，位于今北京旧城的西南部，其城的四方大约是：
东城墙位于宣武门大街西侧，菜市口南的烂漫胡同即是辽南京的东护城河。
西城墙在今广安门外南观音寺往北至会城门村稍西一线。每面两个城门，城内主干大街呈“井”字形相交排列，与长安城中的东、西两市的布局大致相当。幽州城的府衙和辽南京的宫城都位于城的西南部，城的东南隅即是著名的悯忠寺（今法源寺）。公元1151年（金天德三年）金海陵王扩展辽南京为金中都，北城垣仍在原线未动，扩展东、西、南三面。
南城墙在今陶然亭、广安门外的三路居、骆驼湾一线。南闹市口是辽南京北城墙上的栱宸门。
北城墙延伸至今西单以南头发胡同，位于受水河胡同（即臭水河胡同）的南面，是辽南京城的北护城河。
1965年对金中都进行了考古勘测，其东北角在宣武门内翠花街，西北角在军事博物馆以南的黄亭子，西南角在丰台区凤凰嘴村，东南角在今北京南站（永定门火车站）稍南的四路通。
根据金中都宫城大安殿遗址和南城垣东段的水关遗址（今建为辽金城垣博物馆）发现，其四面有十三个城门，东、西、南各三个，北面四个。它沿袭了唐辽旧城的布局风格，里坊式的街道没有改变，只改建了宫城；但在新扩展的部分，则按北宋汴梁的开放式街巷重新进行了规划建设。
在金中都西南部钻探出来的街道皆为东西向平行的胡同。东部扩出去的部分较狭窄，已有东西向主干道，胡同只能是南北向。宣武门大街以东的胡同，像椿树胡同、陕西巷等，都是南北向的。
所以，金中都的城市规划是两个系统的结合，唐辽旧城中沿袭了唐代里坊制的街道，新扩展部分则采用了新的平行胡同的布局形式，元大都城充分发展了这种开放式的新街巷规划。
元大都城是忽必烈于1267年（至元四年）兴建的。他舍弃了金中都宫城之废墟，在金中都东北郊以琼华岛为中心，东建宫城和御苑，太液池西岸南建隆福宫，北建兴圣宫，三宫鼎峙，构成了元大都城的宫苑核心，在全城中央偏南。城平面呈长方形（7600×6700米），有十一个城门，东、西、南各三个，北面两个。
今天的北京旧城是明清时期的北京城，是在元大都城上改建而成的，永乐十七年（1419年）明成祖定都北京，拓展了南城垣，从东西长安街一线南展至今正阳、崇文、宣武三门一线，构成了明清北京城的内城。明嘉靖三十二年（1553年）加筑外城。
清代北京城大体依明代之旧，只对皇城内的布局进行了改动，全城的规划和街道布局，没有变化。北京旧城可以分为三个地区，东西长安街以北至北城垣，包括故宫、三海和皇城，是元大都的旧街区；东西长安街以南至前三门是明永乐新开辟出来的地区；北京外城则是明嘉靖以后的新建区。北京旧城的这三个城区，形成于三个不同时期，因而各有特点。
首先分析北京旧城东西长安街以北的元大都旧城区。这个城区的街道布局一个很明显的特点，即在城门内的南北向和东西向大街之间，东西向平行的胡同等距离地分布着，十分整齐。一个城市的规划中，街道布局是这个城市的基本结构，而城市内主体建置的布局则是这座城市职能性质的体现。
元大都全城是由九条南北纵街和九条东西横街，以及在东西城垣上两城门之间的等距离的22条胡同构成的街道网络，这是从北宋汴梁城以来逐步发展形成的城市规划街道的定式，可以说是中国古代都城史上城市规划的最后经典之作。
元大都的宫苑在全城中央偏南，宫苑之北的海子沿岸则是其市场集中地。太庙在宫苑的左侧齐化门内，社稷坛在宫苑的右侧和义门内。这个城市规划的基本概念是符合《周礼·考工记》所说的王城之制的，形式上遵从了《周礼》，但在实际的城市规划中，却从中古时期封闭式里坊制的城市规划，改变为开放式街巷制的城市规划，这在中国历史上和中国古代城市规划史上，都是一次划时代的变化。今天北京旧城东西长安街以北至北城墙（即今天之北二环）之间的街道布局，仍然维持着元大都的原状。这些北京旧城中保留的元大都城街道的痕迹，不但是极其宝贵的中国历史文化遗产，在世界文化遗产中也是独一无二的，极具科学价值。
从某种意义上说，四合院可算做北京城的“缩微品”。它实际上是一个大圈子中的小圈子。尽管后来大圈子（北京的城墙）拆掉了，小圈子（四合院）也大多名存实亡，但“圈子意识”却已成为北京人的一种“集体无意识”，积淀于北京人的心理深层，甚至形成北京人的一种文化性格。
生活在胡同的人们，一家一户错落有致地分布在一片开放式的地面上，住户可以很方便地与邻居见面、交往。这种居住方式培养了人们尊重、忍让、欣赏、爱惜的美好品格以及分享快乐和美丽的良好心态。对孩子来说，也能从小培养与人打交道和合作的能力。
