1840～1842年，英国人以30余艘舰船和不足1万人的远征军打败了拥有近百万常备军的清王朝。鸦片战争的失败使清廷受到强烈震撼，魏源、林则徐等有识之士认为“夷之长技，一战舰，二火炮，三养兵练兵之法”。他们建议并规划出创立中国近代海军海防的初步方案，以期形成“中国水师可以驶楼船于海外，可以战洋夷于海中”的战略格局。
19世纪60年代初，清政府在镇压太平天国起义的过程中萌发了仿效西方坚船利炮、创办近代海军的设想。海关总税务司英国人李泰国等先后建议购买外舰建立舰队，得到清政府允准。1862年，李泰国在英国购舰船7艘，与英国海军上校阿思本密谋企图控制中国海军，但遭到清朝官员抵制，此次购舰建军计划破产。
1865年，清政府创办江南机器制造总局，次年创办福建船政局，打算通过发展造船工业，创建近代海军。1866年，在左宗棠、沈葆桢的操办下，中国近代第一所高等院校——船政学堂在福州诞生。1867年1月6日，船政学堂正式开学，采用法国教育体制，把船舶工程学校与海军学校合二为一，是一所按技术分设专业的近代高等院校。
1867年，前江苏布政使丁日昌首先提出建立“北洋、中洋、南洋”三支轮船水师的构想，无事出洋梭巡，有事则一路为正兵，两路为奇兵，联合作战。
1874年，日本舰队以琉球船民事件为由人侵台湾，沈葆桢带舰人台交涉退兵，形成中日双方第一次正面冲突。日军侵台使清政府朝野震动不已。同年11月5日，总理衙门上奏，强调了海防问题的必要性和急迫性，提出“练兵、简器、造船、筹饷、用人、持久”六项加强海防、抵御外侮的措施，并随后展开了一场著名的“海防大讨论”。最终通过了“先就北洋创设一支海军，俟力渐充，就一化三，择要分布”的海军海防发展战略思路，并派李鸿章和沈葆桢分别督办北洋、南洋海防事宜，从而直接推动了我国近代海军建设的步伐。
1875年5月30日，清政府下令由沈葆桢、李鸿章分别筹建南北洋水师，每年拨付经费400万两白银，由南北洋水师分用。为迅速见成效，且为重点防御日本，清政府采纳沈葆桢建议，优先重点发展北洋水师。
南洋海军于1879年5月由沈葆桢等奏设“海外兵轮船统领”，以后又称“南洋兵轮船总统”，由江南提督或长江水师提督兼任。1879年7月4日，福建水师成立，为我国最早成军的近代海军力量。到中法战争前，福建水师共有军舰15艘，排水量近1.8万吨，舰队多为木壳舰，以国产为主。1884年中法战争，福州船政局所属军舰惨遭全歼，南洋海军也损失了2舰。
北洋水师的舰船主要来自国外购买。此时正是欧美各国收获海军革命成果的时代，海军武器装备的发展可谓日新月异，而且对出售此类产品亦无严“定远”号铁甲舰格的限制，只要肯花钱，几乎任何新式武器装备都能很快买到。1875年，李鸿章通过总税务司赫德在英国订造4舰炮船，开始清朝海军向国外购军舰的历史。在1879年日本吞并琉球后，清政府鉴于形势紧迫，急令李鸿章从速购买铁甲舰。
李鸿章接受了驻德国公使李凤苞的大力推荐，选定在德国伏尔锵船厂订造两艘铁甲舰“定远”号和“镇远”号，另外再订购一艘铁甲巡洋舰“济远”号。“定远”和“镇远”属同一级别的姊妹舰。两舰长93.87米，宽17.98米，排水量7335吨，航速14.5节，装甲总重为1461吨。这两艘军舰造成后，成为世界第一等的铁甲舰，也是当时亚洲的第一巨舰。1886年，“定远”和“镇远”两艘铁甲舰停泊日本长崎补给、维护时，坚甲巨炮引得日本朝野一片恐慌。
1888年12月17日，北洋水师正式宣告成立，并于同日颁布施行《北洋水师章程》。北洋水师共有大小舰只20余艘（不包括鱼雷艇和辅助船只），以2艘铁甲舰、8艘巡洋舰为主力，总吨位超过4万，是当时堪称世界第六、亚洲第一的海军舰队。近代中国的海军海防建设进入鼎盛时期。
但是，北洋水师在盛名之下却暗含着致命的隐患。首要的就是经费难以保证。按照清政府的规定，每年南北洋水师有400万两白银的海军军费，从1887到1894年，北洋水师应获得拨款约3000万两白银，但却只拿到了1400万两，平均每年只有175万两，不到规定的一半。就是这每年175万两白银的收入，也不是都用在了北洋水师的身上。光颐和园工程一项，就挪用了海军衙门750万两白银。所以，北洋水师在1888年以后未再增添新舰，1891年后因连枪炮弹药也停止了购买。而此时正是海军技术突飞猛进之际，经费不足导致北洋水师的战舰迅速落伍，到甲午战争之前，北洋水师不仅在总吨位上落后日本，而且舰龄老化，行动缓慢，火力也差，缺少快舰和速射炮。
1894年5月，李鸿章校阅北洋水师后，忧心忡忡地向朝廷提出：“西洋各国，以舟师纵横海上，船式日新月异。臣鸿章此次在烟台、大连湾，亲诣英、法、俄各铁舰详加察看，规制均极精坚，而英犹胜。即日本蕞尔小邦，亦能节省经费，岁添巨舰。中国自十四年（指光绪十四年，即1888年）北洋水师开办以来，迄今未添一船，仅能就现有大小二十余艘勤加训练，窃虑后难为继”。
其次，北洋水师官兵虽都受过正规的海军训练，但纪律明显松弛。根据《北洋水师章程》规定，除了海军提督以外，总兵以下各官，皆终年住船，不建衙，不建公馆。然而事实上却非如此，将士们纷纷移眷刘公岛，晚上上岸住宿的人，一船有半。提督丁汝昌本人更是在岛上盖起铺屋出租，收取租金。
管带邓世昌在船上养狗，也是章程所不许。每当北洋封冻、海军例巡南洋时，官兵淫赌于香港、上海。就在威海之战的紧要关头，“来远”、“威远”二舰的管带邱宝仁、林颖启还在岸上嫖妓未回，二舰无人指挥。北洋水师后期军事训练也形同虚设，为了应付上级视察，打靶演习时“预量码数，设置浮标，遵标行驰。码数已知，放固易中”。
最后，腐败之风盛行。北洋水师将领多受过正规西式教育和训练，他们中的多数人并不缺乏忧国忧民之心，但在封建军队的“酱缸”里，他们迅速地被同化了，出现了结构性和共生性的腐败。作为北洋水师的直接领导人，丁汝昌不能以身作则、严格治军，导致舰队管理混乱。每每舰队庆功请奖之际，军中必有管带等滥用权力，夹杂进大批无关人员。北洋水师还发生过用军舰载货载客挣钱和从朝鲜走私人参牟利的事件。另外，各船每月有数百两行船公费，管带常私扣归己，致使船舱机器保养不勤，零件损坏，大炮生锈。
假如中国身边没有日本这样一个虎视眈眈的对手，那么这些问题也许还不会暴露，北洋水师仍能继续沉醉在“亚洲第一”的梦幻中。然而事与愿违，面对腐败衰弱的大清王朝，我们的邻国日本早已经按耐不住了。
日本人很早就开始对中日战争进行准备。1885年6月，日本政府采纳了伊藤博文等人的建议，提出了一个以10年为期的扩军计划，作为发动对华战争的准备。1887年，日本一些军国主义分子制定了《征讨清国策》，提出：
“以五年为期作为准备，抓住时机准备进攻”，对中国进行一场以“国运相赌”的战争。1890年之后，日本以国家财政收入的60%来发展海军、陆军。
从1893年起，明治天皇又决定每年从自己的宫廷经费中拨出30万元，再从文武百官的薪金中抽出1/10，补充造船费用。日本举国上下士气高昂，把超过北洋水师作为奋斗目标。1890年时，北洋水师2000吨位以上的战舰有7艘，共27000余吨；而日本海军2000吨位以上的战舰仅有5艘，共1.7000余吨。到了甲午战争前夕，日本已经建立了一支拥有63000名常备兵和23万预备兵的陆军，并拥有排水量72000吨的海军舰只，总吨位大大超过了北洋水师，其中包括专为对付北洋水师“定远”、“镇远”二铁甲舰而购造的“岩岛”、“松岛”、“桥立”三艘海防舰以及当时世界上航速最快的巡洋舰“吉野”号等。此时此刻，“亚洲第一”的桂冠已经在不知不觉中戴在了日本头上。就在日本倾全国之力扩充军备战争危险日益迫近的紧要关头，清政府反而放松了国防建设，中国就是在这样一种不清醒的状态下，迎来了一场命运攸关的战争。
1894年9月17日，北洋舰队从朝鲜返航至鸭绿江口外的黄海时，等候在那里的日本海军舰队迎面而来。12时50分，北洋舰队旗舰“定远”号主炮首先开炮，持续5小时、重创北洋水师和洋务运动的黄海海战至此开始。
从上述表格中可以看出，双方舰队实力不相上下。北洋舰队的优势是铁甲舰和重炮较多，其中“定远”、“镇远”两艘主力舰无论装甲、吨位还是火炮口径都是当时世界领先、远东一流的战舰。日本舰队的优势是舰速较快、机动性强。单纯从军力上看，中国舰队还略占优势。但海战的结果是北洋舰队损失“致远”、“经远”、“超勇”、“扬威”、“广甲”（“广甲”逃离战场后触礁，几天后自毁）5艘军舰，死伤官兵千余人；日本舰队“松岛”、“吉野”、“比睿”、“赤城”、“西京丸”5舰受重伤，死伤官兵600余人，北洋舰队的损失大于日方。黄海海战之后，由于北洋舰队不敢再战，日本基本上掌握了黄海制海权，对后来中日战争的进程产生了重大影响。从这个意义上说，北洋舰队在黄海海战中是失利了。
北洋舰队黄海战败的直接原因有如下几点：
（1）指挥失当。北洋舰队在此战中想打破一般的单纵队侧舷交战的常例，但在行进中变阵失败，走出了一个散漫的雁形横列队，中间突出，两翼后掠，阵线涣散，弱舰缺乏保护，且又规定各舰始终要以舰艏对敌，随旗舰运动，战场机动的原则被限制得十分死板。开战不久，旗舰“定远”号年久失修的舰桥被本舰火炮的后坐力震坍，提督丁汝昌从舰桥上跌落负伤，不能继续指挥战斗，而他事先又没有指定代理指挥者，这个致命的疏漏使中国舰队一开始就失去了统一指挥。紧接着信号旗也被击毁，旗舰与舰队的联系中断，各舰只能各自为战，陷入混乱。而日本舰队则根据其编队内舰只航速差异很大的特点，按航速分编出第一游击队和本队两支战术分队，对北洋舰队实施简捷有效灵活的穿插和分割包抄，显示了活用单纵队机动战术的效果。
（2）有的将领贪生怕死，临阵脱逃。在激战中，“致远”、“经远”二舰不幸被敌军击沉，“济远”、“广甲”、“扬威”三舰惊恐万分，仓皇逃窜，“济远”还可耻地挂起白旗。不但削弱了战斗力，还严重地扰乱了军心。4艘鱼雷快艇有3艘慑于敌威一直躲在远处不敢参战，没有发挥任何作用。
（3）炮弹不足，质量不好。这次战斗只打了5个小时，但北洋舰队竟然不可思议地发生了炮弹不够的情况，“定远”舰和“镇远”舰的主炮炮弹全部用光。炮弹质量也有问题，很多炮弹里并无炸药，以致击中了敌舰却不爆炸。此外，中日舰队的火药性能存在“代差”。日本海军于1893年起用装填烈性“下濑火药”的炮弹，下濑火药灵敏度高，炸后能引发高温大火，这与北洋旧部很多人后来不约而同地提到“敌人火药甚异，中炮之处随即燃烧，难于扑灭”相引证。而北洋舰队用的还是黑火药，只能通过爆炸碎片和冲击波杀伤敌人、敌舰，威力有限。这也是北洋舰队的大口径火炮多次击中敌舰却从未击沉一艘的直接原因，像排水量不足千吨的“赤城”舰被“定远”舰305毫米巨炮击中居然能逃脱。
（4）武器操作技术拙劣，舰炮与鱼雷的射击命中率很低。据统计，5个多小时的黄海海战，北洋水师以305毫米口径的舰炮发射了197发钢弹，只有10枚命中目标；其他各种口径的舰炮发射了炮弹共582发，命中目标的只有58发；发射的5枚鱼雷无一命中。究其原因，原来北洋水师平日很少练习射击，即有也是“定靶”演练，而非以行进中的目标为射击对象。所以一到真正的战场，面对驶动中的敌舰，命中率便低得可怜。
黄海海战后，北洋水师虽遭受重创但主力尚在，两艘主力舰“定远”、“镇远”仍然完好。可是李鸿章更加保守，对海战完全失去信心。此后，舰队只是困守港口，北洋水师作为一个战略军事力量，拱卫渤海的使命就此不复存在。1895年1月21日，日军在山东荣成湾登陆，2月17日占领威海卫。北洋水师的军舰大部分被击沉，剩余“镇远”以下lO舰被日军俘获。清政府经营20多年的北洋水师就这样灰飞烟灭了。
虽然南洋海军没有在甲午战争中遭到日军的直接打击，但由于甲午战争以前清政府重点建设北洋水师，南洋海军的建设被忽视。甲午战争以后，政府也没有对南洋海军的建设给予足够重视，南洋海军的舰船更显得陈旧不堪。
经过甲午战争的惨败，清政府对海军的热情明显下降。但是，为保卫海疆尤其是京畿的安全，清政府还是投入了一定财力进行海军的重建。从1895年4月《马关条约》签定到1911年10月辛亥革命爆发的16年半时间里，清政府国产军舰24艘，总吨位10564吨，平均每年增加640吨。如果加上其间从国外进口的39艘军舰，排水量达34.728吨（不含未来华的军舰），平均每年增加2105吨。两者合计，平均每年增加2745吨。在承担沉重的赔款负担的情况下，清政府为重建海军所作出的巨大努力和取得的成绩仍不应抹杀。
但是，就总体而言，甲午战争以后清政府的国防和军队建设重心已经转移到以陆军建设为主，这一时期对海军的投入力度已经不如甲午战争之前。
