Vous obtiendrez les meilleurs résultats en utilisant le lecteur/décodeur multimédia intégré (appelé "lecteur système" dans RockPlayer, je crois) car il prend en charge le décodage matériel. Pour une liste des conteneurs et codecs pris en charge, cliquez ici : http://developer.Android.com/guide/appendix/media-formats.html
Je recommande le format H264/AAC à l'intérieur d'un conteneur MP4, comme le recommande le site Web, mais avec la résolution native de votre appareil (et un débit vidéo plus élevé, si nécessaire).
Bien que le décodeur ffmpeg de RockPlayer soit capable de lire presque tous les codecs multimédia, les résultats seront assez médiocres (décodage logiciel uniquement).