live555是一个包含RTSP/RTP协议栈的开源项目，用C++实现。所以你可能需要封装一个C接口到它。

这是一个运行在ARM Cortex-M3平台上的webradio project，包括RTSP Shoutcast/Icecast功能。看起来他们自己写了一个栈。我不知道它能不能携带。看起来它至少是从他们使用的StellarisWare驱动程序中最低限度地抽象出来的。它也是在新的BSD许可证下。

考虑到这个问题是关于微控制器（Cortex-M和类似的）上的RTSP的，这显然排除了限制较少的系统（gtreamer，vlc和朋友）最常用的库。
对于那些因为RTSP而登陆这里的人，以及对视频流更感兴趣的人，我发现的是https://github.com/geeksville/Micro-RTSP，它似乎勾选了大多数框：专为MCU设计，可以扩展到支持其他相机，甚至支持posix。
不过，目前看来，它并没有得到维护。

存在许多用于RTSP/RTP的开源客户端，诸如mplayer、xine、gstreamer、vlc等。--它们都有RTSP/RTP的客户端代码。