Kemppainen kuului kansandemokraatteja johtaneen Suomen Kommunistisen Puolueen keskuskomiteaan 1972–1990 ja poliittiseen toimikuntaan 1981–1988. Puolueen varapuheenjohtajana hän oli 1987–1988. Kemppainen lukeutui SKP:n enemmistöön. 1980-luvun alussa hän oli yksi niin sanotun kirveslinjan keulakuvista. Kemppainen julkaisi tuolloin Kansan UutisissaLastuja kirveestäni -kolumnin.
Arvo sai lisänimen Vitsi-Kemppainen kerrottuaan kaskuja neuvostojohtajista. Niitä julkaistiin myös kirjana Vitsitkö vähissä? Toinen lisänimi Kymppi-Kemppainen liittyi hänen koulutodistuksensa numeroihin.
Arvo Kemppainen oli koulutukseltaan lääketieteen lisensiaatti. Siviiliammatissaan hän toimi muun muassa johtavana ylilääkärinä Kajaanissa. Hän eli avioliitossa Vuokko Kemppaisen kanssa.
Kemppainen kuului Suomussalmen kunnanvaltuustoon vuosina 1968–1974 ja Kajaanin kaupunginvaltuustoon 1977–1991.