C#文件上传编码乱码

又遇到文件编码乱码的事情，这回稍微有些头绪，但是还是花了很多时间去解决。

场景：上传csv文件，导入到数据库。上传文件的编码不定，需要转成unicode存储。

问题点：需要解决判断上传文件的编码。

关于编码，网上已有很多博客解释，只需查询关键字 unicode ansi bom 等

下面贴一个.net 官方的一些编码类型 地址：https://msdn.microsoft.com/zh-cn/library/windows/desktop/dd317756(v=vs.85).aspx

我这边主要是判断中文编码和unicode的一系列编码。在使用GB2312时发现该编码方式不存在，需要导入编码包：System.Text.Encoding.CodePages

并在使用该编码前添加一行

Encoding.RegisterProvider(CodePagesEncodingProvider.Instance);

 

之后即可使用，使用方式如下：

Encoding.GetEncoding("GB2312")

 

根据网上一个高分根据bom判断编码方式（GB2312无法根据bom判断，且我的案例中只需判断unicode和GB2312，因此修改了方法，default返回GB2312）

/// <summary>
        /// 获取文件编码方式
        /// </summary>
        /// <param name="filename"></param>
        /// <returns></returns>
        public static Encoding GetEncoding(string filename)
        {
            // Read the BOM
            var bom = new byte[4];
            using (var file = new FileStream(filename, FileMode.Open, FileAccess.Read))
            {
                file.Read(bom, 0, 4);
            }

            // Analyze the BOM
            if (bom[0] == 0x2b && bom[1] == 0x2f && bom[2] == 0x76) return Encoding.UTF7;
            if (bom[0] == 0xef && bom[1] == 0xbb && bom[2] == 0xbf) return Encoding.UTF8;
            if (bom[0] == 0xff && bom[1] == 0xfe) return Encoding.Unicode; //UTF-16LE
            if (bom[0] == 0xfe && bom[1] == 0xff) return Encoding.BigEndianUnicode; //UTF-16BE
            if (bom[0] == 0 && bom[1] == 0 && bom[2] == 0xfe && bom[3] == 0xff) return Encoding.UTF32;
            return Encoding.GetEncoding("GB2312");
        }

 

另外，在上传的文件是根据这个编码方式，读入文件流，而.net内部本身就是unicode编码，可以直接存储使用。

 var encoding = GetEncoding(filePath);
 using (var sr = new StreamReader(file.OpenReadStream(), encoding, true)) //此处必须设置为true，用于设置自动察觉bom
 {
     using (var sw = new StreamWriter(filePath))
     {
          await sw.WriteAsync(sr.ReadToEnd()).ConfigureAwait(false);
     }
8  }

 

关于这个自动察觉bom，借鉴博客https://www.mgenware.com/blog/?p=175