我试过这个程序，重现问题：

#include <stdio.h>
#include <stdlib.h>

int main()
{
    system("/bin/sh -c /usr/bin/diff old_ap.json ap_afterTtime.json |tr -d '<> ---,'> diffoutput");
}

我得到了错误missing operand after '/usr/bin/diff'，就像报告的那样。
问题是，当您使用sh -c时，-c后面的命令必须是单个参数。
我认为这里不需要-c，因此我将system调用更改为

system("/usr/bin/diff old_ap.json ap_afterTtime.json |tr -d '<> ---,'> diffoutput");

错误消失了，创建了一个文件diffoutput。
为了完整起见，我还尝试了

system("/bin/sh -c \"/usr/bin/diff old_ap.json ap_afterTtime.json |tr -d '<> ---,'> diffoutput\"");

这保留了-c，但是使用了额外的引号，这样-c就可以将整个命令看作一个参数。
您说删除sh -c没有帮助，所以您的环境一定有什么不同。您运行的是什么操作系统？