《春在堂随笔》所记内容，十分广博，既有学术考证、诗文杂录，又有民情的记载，时政的议论。俞樾治学，不限于书面文献材料，很注意用石刻资料作广泛的论证，如卷二有记泊江余姚所出一汉碑，来考证古代经、克之文；另一则记绍兴禹穴的石刻，与王昶《金石萃编》、阮元《两浙金石录》互证。卷七有记龙洲所存韩愈《偃王庙碑》拓本残文，与清刻韩愈文集相校，辨其异同。民卷有一则记所得明人文集抄本《殷无美文稿》，以此订补《明史》有关的传与表之史实。卷九又据明人《况太守集》，补《明史·况钟传》事迹。俞樾有经学根底，又博涉群书，善于志疑，启人思考。如卷九有一条引《太平广记》释苏轼诗，并纠正元人李治《敬斋古今注》及清人翁方纲《苏诗补注》之误。卷十有一条考述黄牛庙与黄陵庙之别，并辨世传诸葛亮所作《黄牛庙碑》之伪。