Sewaktu berada di Surabaya, Musso kos di rumah Tjokroaminoto dan bertemu dengan H.J.F.M. Sneevliet. Musso muda juga satu kos bersama Soekarno dan Kartosuwiryo muda yang kelak mereka akan berbeda haluan ideologi dalam pemikiran. Ketika Tjokroaminoto mendirikan Sarekat Islam pada 1912, Musso aktif di dalamnya. Musso juga aktif di ISDV bentukan Sneevliet yang menjadi cikal bakal Partai Komunis Indonesia.
Musso adalah salah satu pemimpin PKI di awal 1920-an. Dia adalah pengikut Stalin dan anggota dari Internasional Komunis di Moskwa. Pada tahun 1925 beberapa orang pemimpin PKI membuat rencana untuk menghidupkan kembali partai ini pada tahun 1926, meskipun ditentang oleh beberapa pemimpin PKI yang lain seperti Tan Malaka.
Setelah Madiun direbut tentara, Musso bersama Amir Sjarifoeddin dan pentolan PKI lain melarikan diri ke Ponorogo. Musso berselisih dengan Amir dan memisahkan diri ke arah selatan dengan hanya dikawal dua orang, sementara Amir melanjutkan ke Pacitan. Musso dan pengawalnya kabur dengan menaiki sebuah delman sementara tentara mengejarnya.
Dalam kejar-kejaran terjadi saling tembak hingga kuda delman tertembak. Musso berlari dan bersembunyi di sebuah kamar mandi di sebuah pemandian umum. Satu peleton tentara mengepung dan kembali terjadi baku tembak. Ketika keluar kamar mandi, Musso tertembak dua kali. Mayatnya sempat dibawa ke RS Ponorogo untuk diawetkan sebelum kemudian dibakar secara diam-diam.