正谊书院的前身“正谊书局”，址设福州城内新美里（今城内黄巷）。这所书局是闽浙总督左宗棠在清同治五年（1866）所创立。书局以校、刊理学总集为主要任务，选举人和五贡（拔贡、优贡，副贡、恩贡、岁贡）百人入局工作，月发津贴银五两，中间寄托“养士”、“劝学”之意旨。共计刻成书籍五百二十五卷，定名为《正谊堂全书》。

后来地方绅士杨庆琛、沈葆桢联函镇闽将军英桂，请求改书局为书院，专教十郡的举人、贡生。时兼署总督的英桂接受他们的建议，决定购买骆舍铺（现东街省立图书馆旧址）民房改建书院，到清穆宗同治九年（1870）书院建成。取汉儒董仲舒语“正其谊不谋其利，明其道不计其功”之意，又因书院由正谊书局演化而成，所以定院名为“正谊书院”。书院经费除以正谊书局原有经费为基础 外，另拨一笔官帑补充。

正谊书院建筑朴素大方，与鳌峰、凤池两院构造风格不同。院大门上有一块字径盈尺青石刻的横匾，上镌“正谊书院”四个大字，是当时闽籍书法家郑世恭（郑孝胥之父）所书。该匾额现还嵌于福建省立图书馆后进正门上，另一复制原大青石匾嵌于福州一中校园碑廊上。书院有大讲堂，而无学舍，后进五间排全座为山长住宅、右边有大客厅一座，中悬首任山长林鸿年所撰并书的对联：“客皆当代要津，到此地只谈风月”；“我本昔年都讲，愿诸生共筮云雷”（《易经》：“云雷屯君子以经纶”，谓有才以经世）。

书院每年二月上旬开始招考，投考资格以举人和五贡为限，不收卷资，不许冒名顶替，每年报考约四、五百人。每年二月十五日以前，由总督、巡抚亲临书院（初在贡院）主持元考。经评定甲乙后，录取内课（超等）十五名，每名给膏火银四两；外课（特等）八十五名，每名给膏火银三两；附课（一等）一百名，不给膏火（原定内外课名额统共只有一百名。）书院规定每年从元考录取后开课，十二月初二散学。散学时总督、巡抚亲临参加散学仪式，学员要穿冠服随班行礼。

书院规定每月考课两次，初二为师课，十六日为官课。师课由山长主持，课题以制艺和试帖诗为主。官、师各课，考列在一、二十名之内的，都另有奖赏。

正谊书院首任山长是道光十六年（1836）状元林鸿年，曾任云南巡抚。太平军初起时，袭云南边境，鸿年初次闻警，便弃城而逃，所以被劾去官。回籍后，充正谊书院山长。虽然他常以“状元”二字梗于胸中，睤睨一切，但在书院主讲十九年，还是造就了很多人才。士子中如叶大焯、陈宝琛、林纾、陈衍、吴增祺等皆是当时特出人才。所以正谊书院对于晚清文学界起了推进的积极作用。