在OpenCV中使用色彩校正
以下文章来源于OpenCV团队 ，作者华为开源能力中心
OpenCV在中国的开发团队，非营利目的，致力于OpenCV的开发、维护和推广工作，也即提升OpenCV的软件质量和让更多的人使用OpenCV加快开发效率。
编者按：今年OpenCV收到了很多来自中国的贡献，比如DNN的ARM后端Tengine、基于深度学习的文本检测识别、对RISC-V的支持等新功能。在即将发布的4.5.1版本，华为开源能力中心的工程师又为OpenCV贡献了一个重要功能 -- 色彩校正。
作者：张金衡、单晨琪、王龙步 （华为开源能力中心）
本文将介绍CV领域一个重要应用 -- 色彩校正。该模块收录在opencv_contrib/modules/mcc 模块中，由 PR #2671 贡献。
色彩校正简介
一般来说，由于拍摄设备、光线环境等客观因素，或者拍摄者喜好等主观因素影响，人们拍摄到的图片与真实物体的色彩会有一定的偏差。同一个事物在不同的环境下得到的图片颜色是不同的，这样就对接下来进行的图片处理、比较造成了一定影响。色彩校正技术就是为解决这个问题而提出的。
色彩校正（color calibration），通俗来说，就是使图片还原事物本身的颜色，也就是尽可能接近拍摄时人眼看所看到的事物。如今，色彩校正已经不仅在摄影中使用，而是在影视制作、游戏、医疗、建筑等各行各业中广泛使用。
需要注意的是，色彩校正与调色是不同的概念。前者是在图片中使事物的色彩重现，必须遵循一定的标准，不具有随意性，需要一些技术手段实现；后者则是人们对图片色彩的主观喜好而为，不需要遵循任何标准，具有随意性，是艺术性的实现。
从技术上来说，色彩校正[1]的目的是调整输入输出设备的颜色响应到已知状态。被校准的设备有时被称为校准源 ; 用作标准的色彩空间有时也称为校准目标。由于输入输出设备的制造工艺等，其通道响应存在非线性失真，为了校正该设备输出的图片，必须将其捕捉到的色彩与实际色彩进行校正。
色彩校正通常分成2个步骤：
-
一是先将输入色彩空间线性化为与亮度成正比。这个过程是不适定问题[2]，因此有许多不同的解决方案；
-
二是做线性变换，把色彩空间变成绝对RGB色彩空间。所用的线性变换的矩阵称为色彩变换矩阵（color correction matrix，CCM），也称为CCM矩阵。CCM矩阵需要通过非线性优化来求解。
通常使用的校准色彩叫做色卡（colorchecker），最著名的是麦克白色卡（Macbeth ColorChecker）。色卡提供色彩校正中的参考色，所有的颜色都已经被标定。最流行的标准色卡是 Macbeth色卡，如下图所示。它包括4*6个色块，其中，最后一行的色块是灰色色块，可以用于灰度线性化或是白平衡。
Macbeth色卡
色彩校正的详细理论可查阅以下链接：
https://github.com/riskiest/color_calibration/tree/v4/doc/pdf/English/Algorithm
在OpenCV中使用色彩校正
在对 OpenCV 进行 building 时，运行以下命令来 build 所有 opencv_contrib 模块
cmake -D OPENCV_EXTRA_MODULES_PATH=<opencv_contrib>/modules/
或者仅 build 色彩校正所在的 mcc 模块
cmake -D OPENCV_EXTRA_MODULES_PATH=<opencv_contrib>/modules/mcc
若使用 cmake-gui（CMake的GUI版本）进行构建，需要检查确认包含 mcc 模块。
opencv_contrib/modules/mcc 模块主要包含两个部分，
-
其一是 color checker detector 模型，具体说明可参考
https://github.com/opencv/opencv_contrib/blob/master/modules/mcc/tutorials/basic_chart_detection/basic_chart_detection.markdown；
-
其二为本文主要介绍的色彩校正模块。
色彩校正模块的核心类 -- ColorCorrectionModel：
声明:
opencv_contrib/modules/mcc/include/opencv2/mcc/ccm.hpp
定义:
opencv_contrib/modules/mcc/src/ccm.cpp
ColorCorrectionModel 的参数说明如下：
src :
检测到 ColorChecker 色块的颜色（颜色类型是RGB而不是BGR，颜色值在[0, 1]范围内）；
constcolor :
内置色卡，包括Macbeth、Vinyl、DigitalSG
Mat colors :
参考颜色值（颜色值在[0, 1]范围内）；
ref_cs :
对应颜色值的色彩空间。如果颜色类型是RGB类型，则颜色格式是RGB而不是BGR；
支持的色彩空间有：RGB色彩空间（如COLOR_SPACE_sRGB）、线性RGB色彩空间（如COLOR_SPACE_sRGBL）、非RGB色彩空间（如COLOR_SPACE_Lab_D50_2）等。
在本文中，以 samples/color_correction_model.cpp 的示例作为参考，提取关键步骤代码形成如下程序：
#include <opencv2/imgcodecs.hpp>
#include <opencv2/mcc.hpp>
#include <iostream>
using namespace std;
using namespace cv;
using namespace mcc;
using namespace ccm;
int main(int argc, char *argv[])
{
// [get_messages_of_image]：获取图像消息
string filepath = "input.png"; // 输入图片路径
Mat image = imread(filepath, IMREAD_COLOR);
Mat imageCopy = image.clone();
Ptr<CCheckerDetector> detector = CCheckerDetector::create();
// [get_color_checker]：准备ColorChecker检测
vector<Ptr<mcc::CChecker>> checkers = detector->getListColorChecker();
for (Ptr<mcc::CChecker> checker : checkers)
{
// [create]：创建CCheckerDetector对象，并使用getListColorChecker函数获取ColorChecker信息。
Ptr<CCheckerDraw> cdraw = CCheckerDraw::create(checker);
cdraw->draw(image);
Mat chartsRGB = checker->getChartsRGB();
Mat src = chartsRGB.col(1).clone().reshape(3, chartsRGB.rows/3);
src /= 255.0;
// [get_ccm_Matrix]：对于每个ColorChecker，都可以计算一个ccm矩阵以进行颜色校正。Model1是ColorCorrectionModel类的对象，可以根据需要来修改参数以获得最佳色彩校正效果。
ColorCorrectionModel model1(src, COLORCHECKER_Vinyl);
model1.run();
Mat ccm = model1.getCCM();
std::cout<<"ccm "<<ccm<<std::endl;
double loss = model1.getLoss();
std::cout<<"loss "<<loss<<std::endl;
// [make_color_correction]：成员函数infer_image用于使用ccm矩阵进行校正校正。
Mat img_;
cvtColor(image, img_, COLOR_BGR2RGB);
img_.convertTo(img_, CV_64F);
const int inp_size = 255;
const int out_size = 255;
img_ = img_ / inp_size;
Mat calibratedImage= model1.infer(img_);
Mat out_ = calibratedImage * out_size;
// [Save_calibrated_image]：保存已校准的图像。
out_.convertTo(out_, CV_8UC3);
Mat img_out = min(max(out_, 0), out_size);
Mat out_img;
cvtColor(img_out, out_img, COLOR_RGB2BGR);
imwrite("output.png",out_img);
}
return 0;
}
运行上述代码所在文件，即可完成对于 input.png 图片的色彩校正，校正后的图片为 output.png。
下面展示一组通过本文介绍的色彩校正模块校正前后示例图。通过示例可以看出，原图拍摄色彩较暗，色卡颜色未显示其本身颜色，地板颜色偏暗，毛巾颜色偏蓝；校正后的图片则很好地还原了色卡和物体本身的颜色。
参考文献
-
https://en.wikipedia.org/wiki/Color_correction
-
Bianco, S., Bruna, A.R., Naccari, F., Schettini, R.: Color correction pipeline optimization for digital cameras. J. Electron. Imaging 22(2), 023014:1–023014:10 (2013)
