А нужно именно в консоли. В GUI Scim легко эту проблему решает.
apt-get install scim-pinyin
установить переменные окружения
QT_IM_MODULE=scim
GTK_IM_MODULE=scim
Ctrl+Space включает scim, должна появиться панелька, там выбрать метод ввода pinyin
У меня так японские буквы вводятся
こんにちは
今日は