网络推理算法

‘壹’ tensorRT如何实现神经网络推理加速

TensorRT是英伟达（NVIDIA）推出的一款高性能深度学习推理（Inference）优化器和运行时库。从而实现神经网络推理的加速。以下是TensorRT实现神经网络推理加速的主要方法：
1. 层融合（Layer Fusion）：TensorRT通过将多个相邻的层融合为一个更大的层，减少计算和内存访问次数，从而提高推理速度。例如，两个连续的卷积层可以融合为一个更大尺寸的卷积层，从而减少计算量。
2. 精度校准（Precision Calibration）：TensorRT通过对训练好的模型进行精度校准，找到在保持模型精度的同时，可以使用较低精度的数据类型进行计算的方法。这可以减少内存占用和计算量，从而提高推理速度。
3. 动态调整批量大小（Dynamic Batching）：TensorRT可以根据输入数据的大小动态调整批处理大小，以充分利用GPU的并行计算能力。这可以提高推理速度，同时减少内存占用。
4. 多尺度推理（Multi-Scale Inference）：TensorRT支持多尺度推理，即根据输入数据的尺寸选择合适的网络层进行推理。这可以减少不必要的计算，提高推理速度。
5. 动态张量（Dynamic Tensor）：TensorRT支持动态张量，即在运行时根据输入数据的大小动态分配张量。这可以减少内存占用，提高推理速度。
6. 优化算法选择（Optimized Algorithm Selection）：TensorRT提供了多种优化算法，如快速傅里叶变换（FFT）、定点运算等。用户可以根据需要选择合适的算法，以提高推理速度。
7. 内存优化（Memory Optimization）：TensorRT通过使用共享内存、合并内存访问等方式，减少内存访问次数，提高推理速度。
8. 并行计算（Parallel Computing）：TensorRT利用GPU的并行计算能力，对多个输入数据进行并行处理，从而提高推理速度。
总之，TensorRT通过上述多种方法实现了神经网络推理的加速。这些方法可以在不同程度上提高推理速度、降低内存占用，

‘贰’ 贝叶斯网络和贝叶斯分类算法的区别

1、贝叶斯网络是：一种概率网络，它是基于概率推理的图形化网络，而贝叶斯公式则是这个概率网络的基础。贝叶斯网络是基于概率推理的数学模型,所谓概率推理就是通过一些变量的信息来获取其他的概率信息的过程，基于概率推理的贝叶斯网络(Bayesian network)是为了解决不定性和不完整性问题而提出的，它对于解决复杂设备不确定性和关联性引起的故障有很的优势，在多个领域中获得广泛应用。
2、贝叶斯分类算法是：统计学的一种分类方法，它是一类利用概率统计知识进行分类的算法。在许多场合，朴素贝叶斯(Naïve Bayes，NB)分类算法可以与决策树和神经网络分类算法相媲美，该算法能运用到大型数据库中，而且方法简单、分类准确率高、速度快。
3、贝叶斯网络和贝叶斯分类算法的区别：由于贝叶斯定理假设一个属性值对给定类的影响独立于其它属性的值，而此假设在实际情况中经常是不成立的，因此其分类准确率可能会下降。为此，就衍生出许多降低独立性假设的贝叶斯分类算法，如TAN(tree augmented Bayes network)算法。
贝叶斯分类算法是统计学的一种分类方法，它是一类利用概率统计知识进行分类的算法。在许多场合，朴素贝叶斯(Naïve Bayes，NB)分类算法可以与决策树和神经网络分类算法相媲美，该算法能运用到大型数据库中，而且方法简单、分类准确率高、速度快。
由于贝叶斯定理假设一个属性值对给定类的影响独立于其它属性的值，而此假设在实际情况中经常是不成立的，因此其分类准确率可能会下降。为此，就衍生出许多降低独立性假设的贝叶斯分类算法，如TAN(tree augmented Bayes network)算法。