钓鱼台是金代遗迹。《日下旧闻考》中载：“钓鱼台在三里河西里许，乃大金时旧迹也。台下有泉涌出汇为池，其水至冬不竭。凡西山麓之水流悉灌于此。”钓鱼台的水源自西山诸名泉；而中南海，亦是“引玉泉山及京西北的水系为源，注入池中”，二者可谓一脉相承。
可见金代很重视水利。水利不仅利国利民，同时为帝王将相的郊游提供了方便。太液池与钓鱼台，皆属于金中都（今广安门一带）城外隆重推出的“水景乐园”。皇室成员在城墙里待得厌倦了，想出去转一转、体会戏水的乐趣，于是要么去太液池划船，要么去钓鱼台垂钓，兴之所至。
史铁生在《我与地坛》中这样写道，“我在好几篇小说中都提到过一座废弃的古园，实际就是地坛。许多年前旅游业还没有发展，园子荒芜冷落得如同一片野地，很少被人记起。地坛离我家很近。或者说我家离地坛很近。总之，只好认为这是缘分。地坛在我出生前四百多年就坐落在那儿了，而自从我的祖母年轻时带着我父亲来到北京，就一直住在离它不远的地方一五十多年间搬过几次家，可搬来搬去总是在它周围，而且是越搬离它越近了。我常常觉得这中间有着宿命的味道：仿佛这古园就是为了等我，而历尽沧桑在那儿等待了四百多年……”实际上大地的祭坛等待过每一个人，包括你，包括我。有的来了，有的没来。地坛已老而又老了，史铁生笔下那个平民化的地坛却依然年轻着、鲜活着。
《帝京景物略》记载：“出阜城门南十里，花园村，古花园。其后树，今平畴也。金王郁钓鱼台，台其处，郁前玉渊潭，今池也。有泉涌地出，古今人因之。郁台焉，钓焉，钓鱼台以名。”原文中的“郁”字，似为“御”字的通假。如此就更好理解了：钓鱼台，乃金王御用，自然属于御台。
有金哀宗御制诗为证：“金主銮舆几度来，钓台髙欲比金台。”他沾沾自喜地将钓鱼台与燕昭王的黄金台相提并论，有故意拔高的成分。昭王在燕都筑台，置黄金于其上，悬赏招募天下名士，从而传为佳话。那一代明君以重金垂约的，是治国安邦的人才。金哀宗哪配跟求贤若渴的燕昭王相比呢？他登台纯粹是为了钓鱼，体验到的仅仅是乡野渔翁的情趣，说难听点，是不务正业、游戏人生。对于帝王来说，钓到一条大鱼与获得一位才俊虽然快感相似，但层次上是有差别的，况且，由所下的诱饵即可看出垂钓者的吝啬或慷慨。金哀宗的钓钩顶多悬挂着几条蚯蚓之类，而持着无形钓竿的燕昭王，则一掷千金，不惜以江山相许。
燕昭王出手大方，广纳中原贤才，使沦为齐国“殖民地”的燕国起死回生，“有带甲数十万，车七百乘，骑六千匹，粟支十年”。不仅收复失地，反攻下齐城七十二座（包括齐都临淄），报了一箭之仇。齐国的“珠玉财宝，车甲珍器，尽收于燕”。昔日下血本垂钓人才的黄金台，又摆满了缴获来的战利品，甚至敌国的洪钟大吕、宝鼎礼器，都放在台面上公开展览。
至于金哀宗，只贪图钓鱼之乐，并未真正在意人才之匮乏。他拿自己的钓台比拟燕昭王的金台，仅仅是在夸富斗奇。不知道他垂钓的水平究竟如何，大驾光临钓鱼台，又有多少收获？顶多不过把鱼篓给装满吧。在政绩方面，哀宗毫无建树，最终被蒙古兵围困而自缢，真够悲哀的！钓鱼台，送走了一位亡国之君。
元灭金后，有位达官贵人将钓鱼台据为己有，改造为花园别墅，并起了个好听的名字：万柳堂。据时人描绘：“堤柳四垂，水四面，一渚中央，渚置一榭，水置一舟，沙汀鸟闻，曲房一邃，藤花一架，水紫一方。”
直至清乾隆年间，钓鱼台又沾染上王气，成为皇家的行宫。水域的面积有所增扩，但仍沿用金代自香山开凿而来的水渠。由于金主的御台早已倾颓，因而大兴木土，在其遗墟上重建了一座以城砖包砌的高台。登台远眺，乾隆忍不住又技痒了，让随行的太监取来纸笔，泼墨写下“钓鱼台”三个大字，并下令镌刻于西门的匾额之上。乾隆来钓鱼台，没有钓鱼，改练毛笔字了。这是一位喜欢题写“某某到此一游”的风流皇帝，从中南海到钓鱼台，从北京诸景乃至全国各地（尤其是江南），都能见到这位业余书法家的手迹。金主钓鱼成瘾，而清朝的皇帝则大都有赋诗题词的癖好。
传至末代皇帝宣统，钓鱼台又被转手了：溥仪很大方地将其赐予自己陪读的教师陈宝琛（属于御用文人一类）。这一笔学费确实够昂贵的，老教授无意间钓到了一条大鱼。
北平解放前夕，傅作义将军曾以此为别墅。傅将军立了一大功劳，他在下榻的钓鱼台深思熟虑，终于作出了正确的抉择：向共产党军队交出了自己驻防的北京城，使文物古迹免受炮火损伤。
1959年，钓鱼台成为中华人民共和国的国宾馆，开始了它全新的命运。
