虽然现时马德里（Madrid）坐落的位置于史前史就已有人活动，但在罗马帝国时期马德里是属于Komplutum教区（现时的埃纳雷斯堡）之内。但关于马德里的第一次历史记载却是9世纪，穆罕默德一世命令于现时马德里皇宫的地址上兴建一座小小的皇宫。环绕皇宫亦兴建了一座堡垒al-Mudaina。邻近皇宫是曼赞拿利斯河，穆斯林称为al-Majlī （阿拉伯语: المجريط，“水的来源”）。正因为这条河的名称，人们就将此地命名为Majelit，成为日后Madlid这个字的雏形。1085年在阿方索六世进军托莱多的途中这个堡垒被他征服了。他将该地的清真寺圣化为要塞粮仓的圣母玛利亚教堂（Virgin of Almudena/almudin）。1329年，西班牙的立法部门（Cortes Genelales）首次于此地进行会议，为斐迪南四世提供治国建议。瑟法底犹太人和摩尔人继续于该市居住直至15世纪被驱逐为止。

在一次大火灾之后，恩里克三世（1379-1406年在位）重建了该市，并将自己安全地置于有城墙保护的帕尔多王宫（El Pardo）内。斐迪南二世与伊莎贝尔一世迁入马德里的盛大欢迎仪式宣布结束了卡斯蒂利亚与阿拉贡的争斗。

首都位于托莱多的卡斯蒂利亚王国与首都位于萨拉戈萨的阿拉贡王国被查理一世结合成现代的西班牙。尽管查理偏袒着马德里，但是他的儿子腓力二世（1527年-1598年在位）才是将王宫迁到马德里的第一人，他在1561年将王宫迁到马德里。虽然他没有官方正式宣布迁都，但是事实上马德里已是西班牙的首都。塞维利亚继续控制西属印度，但马德里却控制着塞维利亚。有一段短时间，1601年-1606年，当腓力三世于巴利亚多利德建立自己的王宫时，马德里的财富就真正反映了西班牙的财富多少。西班牙16及17世纪“黄金世纪”时期，马德里与其它欧洲国家的首都并不相似：马德里的人口在经济上都依赖于王室自己的生意。