小说的主人公亚瑟出生在意大利的一个英裔富商家中，名义上他是富商与后妻所生，但实则是后妻与神父蒙太尼里的私生子。亚瑟从小在家里受异母兄嫂的歧视，又看到母亲受他们的折磨和侮辱，精神上很不愉快，却始终不知道事情的真相。亚瑟崇敬蒙太尼里神父的渊博学识，把他当作良师慈父。当时的意大利正遭到奥地利的侵略，青年意大利党争取民族独立的思想吸引着无数热血青年。亚瑟决定献身于这项事业。蒙太尼里发现了亚瑟的活动后十分不安，想方设法加以劝阻。但亚瑟觉得做一个虔诚的教徒和一个为意大利独立而奋斗的人是不矛盾的。在一次秘密集会上，亚瑟遇见了少年时的女友詹玛，悄悄地爱上了她。蒙太尼里调走当了主教，警方的密探卡迪接替了他的位置。在卡迪的诱骗下，亚瑟在忏悔中透露了他们的行动和战友们的名字，以致他连同战友一起被捕入狱。他们的被捕，连詹玛都以为是亚瑟告的密，在愤怒之下打了他耳光。亚瑟痛恨自己的幼稚无知，对卡迪竟然会出卖自己感到震惊，同时得知蒙太尼里神父原来是他的生身父亲，他尊敬的人居然欺骗了他。这一连串的打击使他陷入极度痛苦之中，几乎要发狂。最后，他伪造了自杀的现场，只身流亡到南美洲。在南美洲，他熬过了十三年水深火热的日子。回到意大利时，他已经是一个能文能武的“牛虻”了，成了一名坚定不移的革命者。他又遇见了詹玛，但对方已认不出他了。

牛虻在一次偷运军火的行动中被敌人突然包围，为掩护其他人突围，自己却不幸被捕。蒙太尼里知道了他的身份，企图以父子之情和放弃主教位置的条件劝他归降；牛虻则动情地诉说了自己的悲惨经历，企图打动蒙太尼里，要他在上帝与儿子之间做出抉择。但他们谁都不肯放弃自己的信仰。最终，蒙太尼里在牛虻的死刑判决书上签了字，自己也痛苦得精神失常，死于非命。

牛虻光荣就义之后，詹玛方才得知他就是自己曾经爱过而又冤枉过的亚瑟！