| 摘要:针对深度神经网络鲁棒性问题,提出了一种面向中文文本分类的黑盒对抗样本生成方法WordBeguiler。该方法结合汉字的字形、字音特征构建对抗搜索空间,设计了新的扰动定位方式寻找影响分类结果的重要字或词组,并根据概率权重选取的方法确定修改策略生成对抗样本。使用两个主流的模型CNN和BiLSTM在不同分类数据集上验证其有效性和可转移性。实验结果表明,与其它攻击方法相比,WordBeguiler具有攻击成功率高、扰动率低的优势,同时既保留了原始语义也一定程度上保证了语法正确性,并且可以有效地转移到BERT模型中。 |
| 关键词: 中文文本分类 对抗样本 深度神经网络 汉字特征 黑盒 |
|
|
|
|
| Abstract: |
| Key words: |
