if(this.selected) /* ... */

应该足够了，如果没有，那么this并不指你所认为的它的作用。
如果option没有selected属性，那么你将得到undefined--因为这个属性不存在。因为undefined是错误的。
请注意，您将收到与所描述的两种情况相应的错误消息。

if ($(this).selected()) /* there is no method `selected` for this
                           jQuery object */

if($(this).selected == true) /* selected will be undefined for option's that
                                don't have a selected attribute */

http://jsfiddle.net/R6KA8/

我在如何确定是否选择了option值中解决了这个问题。我使用了prop()method from jQuery，如下所示：

$('#<%=MyListBox.ClientID %>').children("option").each(function () {
    if ($(this).prop('selected'))
    {
       //Do work here for only elements that are selected
    }
}

试试看：ddlListItems是列表框的ID

$('#ddlListItems option:selected').text() != '' ? alert("Item is selected") : alert("No Item selected");