一、FSL

思考的视角

都是基于先验知识

各种方法要熟悉

度量学习，类似降维

这个就是迁移学习的思想，见多识广，学的比对的那个函数

取代表性的点

底层到应用层

包已经把常见的范式内部集成了

二、taskflow

文本纠错，连个分类

应用领域，文本，图像，语音


句法分析结构

可以用在数据增广上

三、算子融合

API调用算子，算子调用底层对应的cuda kernel
减小往返的次数

四、预训练微调新范式

为何要小样本学习

发展历程

方法分类

标准微调不太适合

新范式，prompt tuning,要给个提示

PET，基于人工提示设计模板的方式

优点，不需要随机初始化参数

缺点、模板多样化

P-Tuning

优点

缺点

EFL，所有的任务，转换为蕴含任务

优点，统一视角，降低难度

负样本的数量最好是类别个数的一半

缺点，增加了预测的复杂度

显式的数据增加

隐式的数据增强

三行代码解决

prompt tuning趋势

五、任务的范式迁移

所谓的范式，就是不同的nlp任务，换个思路来解决而已