宽字符
宽字元(Wide character) 是计算机抽象术语(没有规定具体实现细节),表示比1字节还宽的资料类型。不同于Unicode。
Unicode
编辑ISO/IEC 10646:2003 Unicode 4.0 指出:
- "The width of
wchar_t
is compiler-specific and can be as small as 8 bits. Consequently, programs that need to be portable across any C or C++ compiler should not usewchar_t
for storing Unicode text. Thewchar_t
type is intended for storing compiler-defined wide characters, which may be Unicode characters in some compilers." 翻译:“wchar_t
的宽度属于编译器的特性,且可以小到8位元。所以程式若需要跨过所有C和C++ 编译器的可携性,就不应使用wchar_t
储存Unicode文字。wchar_t
类型是为储存编译器定义的宽字元,在部分编译器中,其可以是Unicode字元。”
- "ANSI/ISO C leaves the semantics of the wide character set to the specific implementation but requires that the characters from the portable C execution set correspond to their wide character equivalents by zero extension."
操作系统
编辑对于Windows API及Visual Studio编译器,wchar_t
是16位元宽。由于不能在单个wchar_t字元中,支援系统所有可表示的字元(即UTF-16小尾字元),因而破坏了ANSI/ISO C标准。
程序设计语言
编辑C/C++
编辑wchar_t
在ANSI/ISO C中是一个资料类型。某些其它的程式语言也用它来表示宽字元。在ANSI C程式库表头档中,<wchar.h>和<wctype.h>处理宽字元。
最初,C90语言标准定义了类型wchar_t
:
- "an integral type whose range of values can represent distinct codes for all members of the largest extended character set specified among the supported locales" (ISO 9899:1990 §4.1.5)
C语言与C++语言于2011年发布的各自语言标准中引入了固定大小的字符类型char16_t
与char32_t
。wchar_t
仍保持由编译器实现定义其细节。
Python
编辑Python语言使用wchar_t
作为字符类型Py_UNICODE
的基础。它依赖于该系统是否 wchar_t
“兼容于被选择的Python Unicode编译版本”。[1]
宽窄转换
编辑任何非宽字符的字符集,无论是单字节字符集(SBCS),还是(可变长)多字节字符集(MBCS),都称作窄字符集(narrow character set)。
宽字符集的一个用途,是作为任意两个窄字符集相互转换的中间表示。
宽字符集与窄字符集的转换,有多种方法。
使用Windows API
编辑例如:
// we want to convert an MBCS string in lpszA
int nLen = MultiByteToWideChar(CP_ACP,
0,
lpszA, -1,
NULL,
NULL);
LPWSTR lpszW = new WCHAR[nLen];
MultiByteToWideChar(CP_ACP,
0,
lpszA, -1,
lpszW,
nLen);
// use it to call OLE here
pI->SomeFunctionThatNeedsUnicode(lpszW);
// free the string
delete[] lpszW;
使用ATL 3.0的字符串转换宏
编辑在Microsoft的atlconv.h中,定义了四个宏:
- A2CW : (LPCSTR) -> (LPCWSTR)
- A2W : (LPCSTR) -> (LPWSTR)
- W2CA : (LPCWSTR) -> (LPCSTR)
- W2A : (LPCWSTR) -> (LPSTR)
使用前需要先用宏定义中间辅助变量:
USES_CONVERSION;
上述四个宏的转化过程为:对输入字符串,按照2比1计算宽窄字符串长度关系;然后在运行栈上分配出空间,调用ATLW2AHELPER或ATLA2WHELPER帮助函数完成转换。优点是代码退出当前程序块,栈上的空间被自动回收。缺点是宽窄字符2比1的大小关系,仅适用于单字节字符集。[2]
另外,需要注意不要在大量循环结构中使用转换宏,这会导致快速耗用栈空间。可以把转换宏写到一个小函数中。
使用ATL 7.0的字符串转换类与宏
编辑字符串转换类(模板)的格式为:
C SourceType 2[ C]DestinationType[ EX]
其中SourceType与DestinationType可以是A、W、T、OLE(等价于W)。中间可选的C表示结果为const。EX表示缓冲区存放的字符数由模板参数指定。
缺省的静态缓冲区大小为128个字符。可以指定带EX后缀的模板的参数,以节约空间。可以使用第二个参数指定窄字符的locale。如果运行栈的剩余空间不够用,自动在堆上分配空间,并在超出了该变量的作用域是自动释放堆上的空间。不需要使用USES_CONVERSION宏。注意作为局部对象,如果是无名的临时实例,表达式结束时该变量将自动析构,事后再引用该实例所含的结果字符串将无效。[3]
使用_bstr_t类
编辑适用于Microsoft开发平台。示例:
#include <comutil.h>
#pragma comment(lib, "comsuppw.lib")
std::string ws2s(const std::wstring& ws)
{
_bstr_t t = ws.c_str();
char* pchar = (char*)t;
std::string result = pchar;
return result;
}
C语言标准库函数mbstowcs()和wcstombs()
编辑定义于stdlib.h。需要预先分配目标缓冲区。
参考文献
编辑- ^ https://docs.python.org/c-api/unicode.html (页面存档备份,存于互联网档案馆) accessed 2009 12 19
- ^ MSDN TN059: Using MFC MBCS/Unicode Conversion Macros. [2018-01-12]. (原始内容存档于2018-01-12).
- ^ MSDN: ATL and MFC String Conversion Macros. [2018-01-12]. (原始内容存档于2018-01-12).