C中的相同API产生相同的控制台输出。WriteConsoleW执行WriteFile不执行的到控制台的字符转换。WriteFile只是将字节发送到控制台，控制台在当前代码页中解释它们，对我来说是437（OEM美国）。
我可以通过调用SetConsoleOutputCP(65001)（将控制台代码页设置为UTF-8），然后编写一个UTF-8字符串来让它在C中工作。请注意，list of code page identifiers包含UTF-16，但它仅适用于托管应用程序（例如C#）。
我打印了一些非ASCII码，看看它是否正确。

// compiled with MSVS "cl /W4 /utf-8 test.cpp"
// source saved in UTF-8 as well.
#include <windows.h>

int main() {
    char s[] = u8"Hello, 马克"; // Note: need a chinese font, but cut/paste
                               // to Notepad and you'll see them if you don't.
    SetConsoleOutputCP(65001);
    auto h = GetStdHandle(STD_OUTPUT_HANDLE);
    DWORD written;
    WriteFile(h, s, sizeof(s), &written, nullptr);
}

输出：

Hello, 马克

您应该能够轻松地将其应用于MASM。
如果您愿意使用C运行时库，那么如果您适当地设置了控制台和文件模式，则这些API都适用于UTF-16：

#include <stdio.h>
#include <io.h>
#include <fcntl.h>

int main()
{
    _setmode(_fileno(stdout), _O_U16TEXT);
    wchar_t s[] = L"Hello, 马克!";
    _write(_fileno(stdout), s, sizeof(s));
    int fd = _open("test.txt", _O_CREAT | _O_WRONLY | _O_U16TEXT);
    _write(fd, s, sizeof(s));
    _close(fd);
}

输出到控制台：

Hello, 马克!

Output to test.txt encoded in UTF-16LE. Note that 马克 is the two unicode code points U+9A5C and U+514B:

编辑

下面是GetFileType的演示。如果运行，它将正确写入控制台。如果重定向到文件，例如“test > out.txt”，输出文件包含UTF-16 LE编码的数据。

#include <windows.h>

int main()
{
    auto h = GetStdHandle(STD_OUTPUT_HANDLE);
    auto type = GetFileType(h);
    
    WCHAR s[] = L"Only 20\u20AC!";  // U+20AC is EURO sign.
    DWORD written;
    
    if(type == FILE_TYPE_DISK)
        WriteFile(h, s, sizeof(s) - sizeof(WCHAR) /* don't send the null */, &written, nullptr);
    else
        WriteConsoleW(h, s, sizeof(s) / sizeof(WCHAR) - 1, &written, nullptr);
}

输出到控制台：

Only 20€!

输出重定向到out.txt：