To wg mnie bardziej świadczy o ułomności octoprinta.

A jaki format prościej "wyświetlić" od RTSP?

Jeśli kamera obsługuje rtsp to pewnie bez problemu dodasz ją do octoprint. Poszukaj jaką ma ścieżkę do strumienia i port, sprawdź czy działa np w VLC.
Jeśli natomiast nie obsługuje rtsp tylko jakąś chińską apkę to bez przeprogramowania (o ile jest jakieś alternatywne oprogramowanie do niej) nic nie zrobisz.