知识蒸馏(Knowledge Distillation)是一种在计算机视觉领域应用广泛的模型压缩技术,它旨在将一个大型、训练好的复杂模型(称为教师模型)的知识转移至一个更小、更高效的模型(称为学生模型)。通过这种方式,学生模型能够在保持相对较高准确率的同时,减少计算资源的消耗和提高运行效率。这项技术对于在移动设备和边缘计算设备上运行大型深度学习模型尤为重要,广泛应用于图像分类、目标检测和面部识别等计算机视觉任务中。