春秋戦国時代には燕の首都で薊（けい）と称されていた。国都であった洛陽からは遠く離れ、常に北方の匈奴などの遊牧民族の侵入による被害を受ける辺境の地であった。秦漢代になると北平（ほくへい）と称されるようになる。その後東北地方の開発が進み、高句麗など周辺国の勢力が強大となると戦略上、また交易上の重要な拠点として重視されるようになる。北京市に隣接する、河北省涿郡（たくぐん）は三国志の英雄劉備の故郷で知られるとともに隋の煬帝が築いた大運河の北の起点とされていたところである。

唐末五代の騒乱期には、内モンゴルから南下してきた遼朝は後晋に対し軍事支援を行った代償として北京地方を含む燕雲十六州を後晋から割譲された。遼はこの都市を副都の一つ南京と定め、その後金朝が遼を滅ぼし支配下にすると北京にも都城を定め中都とし、更にモンゴル帝国（元朝）が金を滅ぼすと大都として元朝の都城となった。

朱元璋が元を北方に駆逐し明朝が成立すると、名称を北平に戻し、都城は南京に定められていたが、燕王に封じられ北京を拠点にしていた朱棣（後の永楽帝）が、1402年に建文帝に対し軍事攻撃を行い政権を奪取、皇帝に即位した後は北京へ遷都し地名を北京に改めた。辛亥革命後も中華民国は北京を首都と定めたが、南京を首都と定めた蒋介石を中心とする国民政府は、1928年6月15日に直隷省を河北省、北京を北平（ほくへい、ベイピンBěipíng）と再び改称した。1937年から1945年まで続いた日本軍占領期間は北京という名称が用いられ（公式には1940年に改名）、日本の敗戦によって再び北平に改称される。

中華人民共和国成立の後は首都とされ、北京は再び北京と改称され現在にまで至っている。しかし中華人民共和国の存在を承認せず、大陸地区への統治権を主張する台湾では現在でも公式の名称として「北平」の名称が用いられている。