1) telnet не работает
2) firewall'a нету
3) не совсем понял вопрос
4) netstat на сервере
5) искал, не нашел, в гугле тоже
6) windows AD
3) чтобы на порт 5222 кто-то мог подключиться, какой-то демон (программа) должны его "прослушивать". В Линуксе, если я правильно помню, этим сейчас занимается xinet.d, это такой универсальный прослушиватель, который получив в файле конфигурации описание действий слушает и больше ничего не делает, когда на порт кто-то стучится, демон проверяет, если на этот порт настроена реакция, то он ее выполняет. Если у тебя никто порт не прослушивает то ничего работать и не будет.
5) на самом сервере openfire в документации и на форуме. я поищу документ, который писал сам по процессу поднятия OF, он на джаве, там все должно быть схоже.
6) ключики сделал, керберос аутентификация тесты проходит?
PS: нашел доку, но она не закончена, погляди, может полезное что-то есть. Возился с этим в 13 году, потом необходимость отпала, поэтому не дописал