Durante la conferenza rabbinico a Pietroburgo, nel 5603 (1843), lo Tzemach Tzedek venne arrestato ventidue volte perchè contrastava le richieste del governo in materia di istruzione (ebraica).

Il ministro in carica lo affrontò: «Non è forse questa una ribellione contro il governo?!"

Lo Tzemach Tzedek rispose:

"Un ribelle contro il governo rischia di essere punito con la morte del corpo; un ribelle contro il Regno dei Cieli è punibile con la morte dell'anima... ora cosa è peggio?"