非a、非b、非c、非d、非e在逻辑上等价于a、b、c、d、e(德摩根斯定律）你不要a，不要b，不要c，不要d，不要c

你有两个问题。
首先，你的情况不正确。如果要检查答案是否为任何允许值，则条件应为：

!answer.equals("A") && !answer.equals("B") 
    && !answer.equals("C") && !answer.equals("D")
    && !answer.equals("E")

以及

!(answer.equals("A") || answer.equals("B") 
    || answer.equals("C") || answer.equals("D")
    || answer.equals("E"))

请参阅马修的答案以获得解释。
第二，你在打电话 Quiz.ask(Question) 递归地，这使得循环继续在无效的答案上运行，即使用户在随后的调用中提供了正确的答案（请继续阅读并理解递归调用是如何工作的-尤其是如何管理局部变量）。解决这个问题的方法是do while循环（还有其他方法），如下所示：

String answer;
boolean invalid = false;
do {
    if(invalid) {
        JOptionPane.showMessageDialog(null,
                "Invalid answer. Please enter A, B, C, D, or E.");
    }

    answer = JOptionPane.showInputDialog(Question);
    answer = answer.toUpperCase();
    invalid = !(answer.equals("A") || answer.equals("B") 
               || answer.equals("C") || answer.equals("D")
               || answer.equals("E"));
} while (invalid);
    return answer;

只要条件被评估为true，“while循环”就会继续。
“| |”（或逻辑运算符）仅在所有语句都为false时返回false，例如：false | | false=false
在您的代码中，如果用户选择b，例如，第一次求值 !answer.equals("A") 打破你想要的，返回true，忽略其他语句。
更改“while循环”以根据需要正确评估您的条件（继续询问，直到答案与“a”或“b”或“c”或“d”或“e”不同）。所以，准确地说：

while ( !( answer.equals("A") || answer.equals("B") || answer.equals("C") || answer.equals("D") || answer.equals("E") ) ){
   ...
}

注意“！”(不是逻辑运算符）和括号的使用，这对它的工作至关重要。