事实上这个问题困惑了我好久，也找了不少资料，终于在官网上找到解决办法了。
反正在vlc core没找到，这个网址可能需要翻墙。
在哪找的网址忘记了。。。
你不能去找transform，需要找rotate
放上可以使用的参数：
/* Load the VLC engine */
char const *vlc_argv[] = {
"--video-filter","rotate{angle=180}"//旋转180
};
int vlc_argc = sizeof(vlc_argv) / sizeof(*vlc_argv);
inst = libvlc_new(vlc_argc, vlc_argv);
