在崇文门内东晓市街，最初是清代康熙年间在京城建立的一所义学。明、清两代，在天坛以北一带有不少池塘水榭和贵人的别业，是个秀丽宜人的风景区。其中有一所洪庄，是降清明将洪承畴的赐园，它占地宽阔，环境幽雅。康熙三十九年（1700年），京兆尹钱晋锡在宛平、大兴分设义学，收孤寒生童就学。其中大兴义学赁屋于洪庄。后来，宛平的义学合并到洪庄来，改称首善义学。从此洪庄书庄朗郎，成为京师义学所在地。
    首善义学创办之初并无自己的学舍，只是祖赁洪庄里一些房屋。以后，京兆尹施世纶想买下洪庄一些空地，扩建义学为书院，不料洪之孙奕沔执意不肯，旋世纶耍了手腕，向皇帝上疏，谎报洪氏后人愿意献地办学。康熙看了奏折，对此举甚为嘉将，特御书“广育群材”匾额以赐。奕沔得知后，有苦难言，对施世纶购地办学的事，再也不敢驳逆。至此，首善义学在原有基础上增建校舍扩大规模，在乾隆十五年（1750年）正式改名为金台书院。
    金台书院隶属顺天府管理，学生主要是京师和各省准备参加会试、殿试的举人、贡生，顺天府的童生可从优就学。书院主持人称院长，多为有名之士，并设学长、学副、上舍等名额，还聘有主讲。教学内容除官府规定必修课业以外，还定期请一些学者讲学，主要内容是八股文、临摹法贴，间或也讲授经书义理。每逢朔望之日书院里还命题考试，京兆尹常亲临考场监考，对成绩优异者给予奖励，作为就学资助。如果发现出众的人才，即上疏推荐。
    金台书院于道光二十二年（1842年）和光绪五年（1879年）进行过二次规模较大的重修。当时书院规模宏敞，主体是三进四合院式院落，布局井然有序，光绪年间重修后的建筑设有朱子堂七间，大堂三间，垂花门一座，官厅六间，大门一座，南罩房五间，东门一座，东西文场各十间，东西厢房十间，厨房、马棚共七间，合计64间。此外大门外有扇面形影壁和石雕卧狮一对，工艺精致，蔚为壮观。在这里可以看见我国古代书院建筑的传统规制。
    随着清王朝的衰败和新学制的兴起，光绪三十一年（1905年）废除了延续千余年的科举制度，推行学校教育，金台书院就停办了，其旧址改为顺直学堂，民国期间改为公立第十六小学，后虽几易其名，校舍却无变动，解放后改为东晓市小学。
金台书院的主要建筑现在均保留下来，1985年又经过修缮，面貌焕然一新，显得格外文雅、庄重。现存文物有乾隆四十九年《金台书院记》石刻一方，嵌于门洞东壁，院内还存石碑两座。
    金台书院自开创义学至今，已近300年历史，并且始终为学校，这在北京是首屈一指的。现已公布为北京市文物保护单位。