Проблема - в способе хранения (получения) хэша пароля. Я больше чем уверен, что у тех, у кого с >8-символьными паролями всё нормально, в /etc/shadow хэш пароля имеет 99 байт, а у тех, у кого достаточно 8 символов ввести - гораздо меньше.
Собственно, вот: файл /etc/login.defs
# If set to MD5 , MD5-based algorithm will be used for encrypting password
# If set to SHA256, SHA256-based algorithm will be used for encrypting password
# If set to SHA512, SHA512-based algorithm will be used for encrypting password
# If set to DES, DES-based algorithm will be used for encrypting password (default)
# Overrides the MD5_CRYPT_ENAB option
#
# Note: It is recommended to use a value consistent with
# the PAM modules configuration.
#
ENCRYPT_METHOD SHA512
и всё будет пучком
Подробнее - man pam_unix