1890年清政府又修关内外铁路（今京沈铁路），以金达为总工程师。1892年工程进行到滦河大桥，许多国家都想兜揽这桩生意，金达当然以英人为先，但英人喀克斯以建不成桥而失败。日本、德国的承包者也都遭失败。由于交工期限将至，金达才不得不求于詹天佑。詹天佑详尽分析了各国失败原因，又对滦河底的地质土壤进行了周密的测量研究之后，决定改变桩址，采用中国传统的方法，以中国的潜水员潜入河底，配以机器操作，胜利完成了打桩任务，建成滦河大桥。这一胜利长了中国人民的志气。1894年英国工程研究会选举詹天佑为该会会员。此后，詹天佑又领导了京津路、萍醴路（萍乡至醴陵）等铁路的建筑。袁世凯为讨好那拉氏，1902年奏请修建一条专供皇室祭祖之用的新易铁路（高碑店至易县）。坐火车去祭祖，那拉氏自然高兴。为了不误1903年祭祖之用，命袁世凯于六个月内完工。袁世凯命詹天佑为总工程师。尽管此路价值不大，却是中国人自修铁路之始，因此詹天佑仍是非常重视。詹天佑彻底抛弃了当时外国人必须在路基修成之后风干一年才可铺轨的常规，仅用四个月的时间以极省的费用建成新易铁路。大大鼓舞了中国人自建铁路的信心，为后来京张铁路的修筑打下良好基础。

        张家口为北京通往内蒙古的要冲，南北旅商来往之孔道，向来为兵家所必争，因此京张铁路就有着重要的经济价值和政治价值。当清廷要修京张路的消息传出后，在华势力最大的英国志在必得，视长城以北为其势力范围的沙俄誓不相让，双方争持不下，最后达成协议：如果清廷不借外债，不用洋匠，全由中国人自修此路，双方可都不伸手。这样，清政府就打消了求救于洋人的念头而一心自修了。1905年5月，京张铁路总局和工程局成立，以陈昭常为总办，詹天佑为会办兼总工程师，1906年詹天佑又升为总办兼总工程师。詹天佑清楚地知道这一任务的艰巨性，他首先必须顶住来自各方面的冷嘲热讽：有人说他是“自不量力”，“不过花几个钱罢了”，甚至说他是“胆大妄为”。他给他的美国老师诺索朴夫人的信中就这样说：“如果京张工程失败的话，不但是我的不幸，中国工程师的不幸，同时带给中国很大损失。在我接受这一任务前后，许多外国人露骨地宣称中国工程师不能担当京张线的石方和山洞的艰巨工程，但是我坚持我工程”。充分体现了中国知识分子的爱国心和民族责任心。

        詹天佑勘测了三条路线，第二条绕道过远为不可取。第三条就是今天的丰沙线。由于清廷拨款有限，时间紧迫，詹天佑决定采用第一条路线，即从丰台北上西直门、沙河、经南口、居庸关、八达岭、怀来、鸡鸣驿、宣化到张家口，全长360华里。全线的难关在关沟，这一带叠峦重嶂，悬殊峭壁，工程之难在当时为全国所没有，世界所罕见；坡度极大，南口和八达岭的高度相差180丈。詹天佑把全线分为三段：丰台到南口为第一段，南口到康庄为第二段，余为第三段。1905年9月4日正式开工，12月12日开始铺轨。就在铺轨的第一天，一列工程车的一个车钩链子折断，造成脱轨事故。这一下成了中国人不能自修铁路的证据，各种诽谤中伤纷至沓来。但詹天佑没有惊慌失措，反倒冷静地想到：此路坡度极大，每节车厢之间的连接性能稍有不固，事故就难避免。为此，他使用了自动挂钩法，终于解决了这个问题。

        1906年9月30日第一段工程全部通车，第二段工程同时开始。难关就在第二段，首先必须打通居庸关、五桂头、石佛寺、八达岭四条隧道，最长的八达岭隧道1，092公尺。这不仅要有精确的计算和正确的指挥，还要有新式的开山机、通风机和抽水机。前者对詹天佑都不成问题，而后者当时中国全都没有，只在靠工人的双手，其困难程度可以想见。他们硬是克服了重重困难，终于在1908年9月完成了第二段工程。第三段工程的难度仅次于关沟，首先遇到的是怀来大桥，这是京张路上最长的一座桥，它由七根一百英尺长的钢梁架设而成。由于詹天佑正确地指挥，及时建成。1909年4月2日火车通到下花园。下花园到鸡鸣驿矿区岔道一段虽不长，工程极难。右临羊河，左傍石山，山上要开一条六丈深的通道，山下要垫高七华里长的河床。詹天佑即以山上开道之石来垫山下河床。为防山洪冲击路基，又用水泥砖加以保护，胜利完成了第三段工段。对于工程上的困难，詹天佑从未放在眼里，对于人为的障碍却使詹天佑忧愤至极。清河有个叫广宅的人，是前任道员，皇室载泽的亲戚，朝野均有势力。铁路恰经其坟地，他即率众闹事，阻止工程，私下又许以重贿，要求改道。邮传部竟不敢过问。这里北面是郑王坟，南面是宦官坟，西面是那拉氏父亲桂公坟，要大改道不知要浪费多少时间和经费。詹天佑以受贿为可耻，绝不改道，竟以去留相力争。最后因五大臣出洋被炸，载泽吓得不敢与闻外事，广宅才因失去靠山而同意经其坟墙以外通过。