Kyvik var et aktivt medlem av Haugesunds Orkesterforening. Kristian var også en periode aktiv i Byorkesteret , og gjorde mye for å holde musikkinteressen oppe. Han hadde forståelse på hvordan man skulle skape en behagelig kontakt mellom salen og podiet.