Собирал себе motion под rtsp китай камера, авторизировался так
netcam_url rtsp://ip:554/user=user_password=password_channel=1_stream=1.sdp?real_stream
netcam_userpass user:pass
для детекции движения брал второй поток, а писал при детекции первый поток через openRTSP.
Но лучше avreg.