WinUI（WASDK）使用HelixToolkit加载机器人3D模型并进行项目实践

前言

本人之前开发了一个叫电子脑壳的上位机应用，给稚晖君ElectronBot开源机器人提供一些功能，但是由于是结合硬件才能使用的软件，如果拥有硬件的人员太少，就会导致我的软件没什么人用，于是我就想着能不能将机器人硬件的模型加载到软件里，这样用户就可以不使用硬件也可以使用我的软件了。于是就有了在WinUI（WASDK）里使用3D模型的需求。

最终效果如下：
ElectronBot-model

先来个B站复刻机器人的开箱视频吧。(如果感觉无聊可以直接拖到代码讲解部分)

库选择的纠结过程

在选择库的过程中其实并不是一帆风顺，因为WinUI（WASDK）是个比较新的框架，框架本身也没有提供3D模型加载的功能，于是我就在想到底选择什么样的办法加载，之前有看到一些UWP加载模型的demo，但是基本上就是封装的c++的库，对于我这c++垃圾的人来说还是很痛苦的，我的要求就是不能有c++代码。

要满足模型的加载，模型的旋转变换平移，模型材质的更换，在经过筛选以后，备选方案有three.js，HelixToolkit。

three.js

GitHub Copilot: three.js 是一个基于 JavaScript 的 3D 图形库，它使用 WebGL 技术在浏览器中渲染 3D 图形。它提供了一组易于使用的 API，使用户可以创建高度可定制的 3D 场景，包括模型、纹理、光源和相机等部分。此外，three.js 还支持动画、物理模拟和粒子系统等功能，使用户可以创建逼真的 3D 动画效果。three.js 可以在多种浏览器和设备上运行，并且有一个庞大的社区支持和贡献。

由于要和前端框架进行互操作，所以这个我也不是优先考虑了。
HelixToolkit（基于SharpDX再次封装的）

所用框架和库介绍

1. WASDK

这个框架是微软最新的UI框架，我主要是用来开发程序的主体，做一些交互和功能的承载，本质上和wpf，uwp这类程序没什么太大的区别，区别就是一些工具链的不同。

2. HelixToolkit

GitHub Copilot: HelixToolkit是一个面向.NET开发人员的3D图形库。它提供了一组控件和辅助类，用于在WPF和WinForms应用程序中创建和渲染3D场景。HelixToolkit支持多种3D文件格式，包括OBJ、STL和FBX，并包括照明、材质、纹理和动画等功能。它还支持高级渲染技术，如阴影、反射和透明度。HelixToolkit是开源的，可以从GitHub下载。

代码讲解

1. Demo项目介绍

demo项目地址

项目结构如下图：
project

处理过程

=>加载器加载模型=>将模型加载到模型组=>初始化相机=>进行数据到控件的绑定

2. 核心代码讲解

预备知识

SharpDX的坐标系是左手坐标系

GitHub Copilot: DirectX使用左手坐标系来描述3D空间中的对象位置和方向。在左手坐标系中，x轴向右，y轴向上，z轴向外（屏幕外）。这与右手坐标系的z轴方向相反。左手坐标系在计算机图形学中广泛使用，因为它与人眼的观察方式相符合。

model1

3D场景下的模型变换（平移旋转缩放）

模型加载完成以后，就需要让模型动起来，这样才能算是完整的过程了。

核心旋转代码如下：

core-code

场景是将模型绕手臂点进行旋转，需要将手臂模型组移动到原点，旋转完成之后再移动到原来的位置。

3. 实际项目使用

下载电子脑壳源码

braincase

动作序列以及表情帧数据处理实际代码如下:

 private void Instance_ModelActionFrame(object? sender, Verdure.ElectronBot.Core.Models.ModelActionFrame e)
    {
        BodyModel.HxTransform3D = _bodyMt * Matrix.RotationY(MathUtil.DegreesToRadians((e.J6)));

        Material = new DiffuseMaterial()
        {
            EnableUnLit = false,
            DiffuseMap = LoadTextureByStream(e.FrameStream)
        };


        var nodeList = HeadModel.GroupNode;

        foreach (var itemMode in nodeList.Items)
        {
            if (itemMode.Name == "Head3.obj")
            {
                foreach (var node in itemMode.Traverse())
                {
                    if (node is MeshNode meshNode)
                    {
                        meshNode.Material = Material;
                    }
                }
            }
        }

        var rightList = RightShoulderBoundingBox.GetCorners();

        var rightAverage = new SharpDX.Vector3(
            (rightList[1].X + rightList[5].X) / 2f,
            ((rightList[1].Y + rightList[5].Y) / 2f) - 8f,
            (rightList[1].Z + rightList[5].Z) / 2f);

        var leftList = LeftShoulderBoundingBox.GetCorners();

        var leftAverage = new SharpDX.Vector3(
            (leftList[0].X + leftList[4].X) / 2f,
            ((leftList[0].Y + leftList[4].Y) / 2f) - 8f,
            (leftList[0].Z + leftList[4].Z) / 2f);

        var translationMatrix = Matrix.Translation(-rightAverage.X, -rightAverage.Y, -rightAverage.Z);

        var tr2 = _rightArmMt * translationMatrix;

        var tr3 = tr2 * Matrix.RotationZ(MathUtil.DegreesToRadians(-(e.J2)));
        var tr4 = tr3 * Matrix.RotationX(MathUtil.DegreesToRadians(-(e.J3)));

        var tr5 = tr4 * Matrix.Translation(rightAverage.X, rightAverage.Y, rightAverage.Z);


        var tr6 = tr5 * Matrix.RotationY(MathUtil.DegreesToRadians((e.J6)));

        RightArmModel.HxTransform3D = tr6;


        var leftMatrix = Matrix.Translation(-leftAverage.X, -leftAverage.Y, -leftAverage.Z);

        var leftTr2 = _leftArmMt * leftMatrix;

        var leftTr3 = leftTr2 * Matrix.RotationZ(MathUtil.DegreesToRadians((e.J4)));
        var leftTr4 = leftTr3 * Matrix.RotationX(MathUtil.DegreesToRadians(-(e.J5)));

        var leftTr5 = leftTr4 * Matrix.Translation(leftAverage.X, leftAverage.Y, leftAverage.Z);


        var leftTr6 = leftTr5 * Matrix.RotationY(MathUtil.DegreesToRadians((e.J6)));

        LeftArmModel.HxTransform3D = leftTr6;

        var headMatrix = Matrix.Translation(-HeadModelCentroidPoint.X, -HeadModelCentroidPoint.Y, -HeadModelCentroidPoint.Z);

        var headTr2 = _headMt * headMatrix;

        var headTr3 = headTr2 * Matrix.RotationX(MathUtil.DegreesToRadians(-(e.J1)));

        var headTr4 = headTr3 * Matrix.Translation(HeadModelCentroidPoint.X, HeadModelCentroidPoint.Y, HeadModelCentroidPoint.Z);


        var headTr5 = headTr4 * Matrix.RotationY(MathUtil.DegreesToRadians((e.J6)));

        HeadModel.HxTransform3D = headTr5;
    }

最终效果如下：
ElectronBot-model