В 1830-е годы Александр Абрамович Захарьин служил судьёй «совестного суда» Екатеринославской губернии.
Совестный суд рассматривал уголовные дела, «где источником преступления была не сознательная воля преступника, а или несчастье, или физический, либо нравственный недостаток, малолетство, слабоумие…» Разбирая подобные дела, судья должен был руководствоваться, как тогда говорили, «принципом естественной справедливости». От него требовалось немало терпения, мудрости и житейской опытности. А потому нередко должности судей занимали отставные военные.
Александр Абрамович Захарьин в 1810 году поступил в Лейб-гвардии Гусарский полк, затем служил в Ольвиопольском гусарском и Нежинском конно-егерском полках. Он участвовал в Отечественной войне 1812 года и в Заграничных походах, и завершил свой боевой путь в Париже. Подвиги Александра Абрамовича были отмечены орденами Святой Анны и Святого Владимира 4-й степени и золотой саблей «За храбрость».