蔡孝乾生於彰化花壇，生年有一九〇四、一九〇六、一九〇八幾種說法。一九二〇年代他辭去教職赴上海，進上海大學，籌組上海臺灣青年會；回臺後與王敏川、連溫卿等人推動左派掌握臺灣文化協會。後來他去了中國，參加中國工農紅軍的長征——那是唯一一個走完長征的臺灣人。

一九四六年他被派回臺灣，建立中國共產黨臺灣省工作委員會並任書記。到一九五〇年前後，這個組織在全島發展出的支部與成員，是戰後臺灣地下組織規模最大的一次。

一九五〇年他被國防部保密局逮捕。在訊問下，他供出了名單。接下來的大逮捕從那份名單開始，基隆中學的鍾浩東、鹿窟的據點、各地的學校與工廠支部，一個接一個被端掉，數以千計的人被捕、被判刑、被槍決。

他自己沒有被槍決。叛變之後他加入國民黨，一九五六年因破獲情報有功晉升少將，後來任國防部情報局匪情研究室副主任，兼司法行政部調查局副局長，一九八二年十月八日病逝。白色恐怖最密集的那幾年，他站在名單的兩邊。