Uczestniczył w pracach Legislatywy, był też członkiem Komuny Paryża, a następnie członkiem Konwentu Narodowego. Zasłynął jako jeden – obok Billaud-Varenne’a – z najradykalniejszych posłów. Już 21 września domagał się całkowitego zniesienia monarchii, porzucił bowiem w międzyczasie swoje dawne konstytucyjne poglądy. W procesie Ludwika XVI głosował za karą śmierci.
W Komitecie Ocalenia Publicznego Collot d’Herbois miał walny udział w pokonaniu żyrondystów, a po ich pokonaniu stał się głównym wrogiem spekulantów i współautorem (ponownie razem z Billaudem) nowego programu dla klubu jakobinów, zawierającego niekiedy treści bliskie komunizmowi. Popularny wśród sankiulotów, pod ich naciskiem został we wrześniu 1793 wybrany do Komitetu Ocalenia Publicznego, gdzie należał do najaktywniejszych członków. Początkowo popierał Robespierre’a w dyskusjach z umiarkowanymi członkami rządu, dzięki jego poparciu (można nawet powiedzieć, że się przyjaźnili) uzyskiwał niejednokrotnie prestiżowe stanowisko komisarza Konwentu, wyjeżdżał na misje do Nicei, Nevers, Compiègne, by wreszcie trafić do Lyonu, gdzie miał zastąpić zbyt mało zdecydowanego w represjach Counthona. Tam zasłynął z okrucieństwa, organizując masowe rozstrzeliwania przypadkowej ludności i burzenie całych dzielnic miasta.