Todo se guarda en una archivo llamado Outlook.pst y se encuentra en C:\Document And Settings\Administrador\Configuración local\Datos de programa\Microsoft\Outlook.
Ahora que si lo que necesitas son únicamente los contactos, tendrías que realizar un respaldo únicamente de la carpeta contactos.