Être "connecté" est une idée fausse. Même lorsque vous êtes "connecté" en utilisant un navigateur, cela est géré par le stockage d'un cookie contenant un token d'authentification. Sur l'appareil, c'est un peu la même chose, sauf que ce n'est pas un "cookie". Lorsque vous configurez votre compte, un token d'authentification est demandé et stocké sur l'appareil. Un nouveau token peut également être échangé à d'autres moments, mais vous n'êtes même pas conscient que cela se produit.
Lorsque les applications, comme gmail, vérifient les nouveaux mails, elles utilisent ce token pour indiquer aux serveurs gmail que vous êtes "vous". La raison pour laquelle vous ne pouvez pas "vous déconnecter" est que sinon vous ne pourriez pas vérifier les nouveaux mails, obtenir des mises à jour d'applications et d'autres choses qui se produisent en arrière-plan. Si vous vous déconnectiez, alors toutes les quelques minutes, vous devriez saisir vos identifiants pour que votre appareil puisse vérifier les mises à jour et les nouveaux mails.
Un grand nombre de services intégrés à Android utilisent votre token d'authentification. Même lorsque vous créez, modifiez ou supprimez un contact sur votre appareil, car il synchronise ces données avec votre compte sur les serveurs google. Les rendez-vous du calendrier, gTalk, Google Voice, le widget de recherche, la saisie vocale, les notifications push (pour tout service utilisant C2DM), et tout autre service pouvant apparaître sous votre compte google dans Comptes et Synchronisation
peuvent et auront besoin de ce token d'authentification à tout moment.
C'est un peu comme si vous étiez connecté à votre PC (Windows, Linux, OSX) puis connecté à un service google en particulier.