Kanerva aloitti ministeriyden Harri Holkerin hallituksessa vuonna 1987, valtioneuvoston kansliassa. Sittemmin hän on ollut liikenne- ja työministerinä sekä valtiovarainministeriössä, jossa hän vastasi hallinnon kehittämisestä.