当前位置：网站首页>利用 AWS SageMaker BlazingText 对不均衡文本进行多分类

利用 AWS SageMaker BlazingText 对不均衡文本进行多分类

2020-11-06 01:22:39 【InfoQ】

背景

文本分类(Text Classification) 属于自然语言处理领域，是指计算机将载有信息的一篇文本映射到预先给定的某一类别或某几类别主题的过程。然而在现实问题中，经常会遇到数据样本的类别不平衡 (class imbalance) 现象，严重影响了文本分类的最终结果。所谓样本不均衡指的是给定数据集中有的类别数据多，有的数据类别少，且数据占比多的数据类别样本与占比小的数据类别样本两者之间达到较大的比例。

BlazingText 是 AWS SageMaker 的一个内置算法，提供了 Word2vec 和文本分类算法的高度优化的实现。本文使用了 Sagemaker BlazingText 实现了文本多分类。在样本不均衡问题上，使用了回译和 EDA 两个方法对少类别样本进行了过采样处理，其中回译方法调用了 AWS Translate 服务进行了翻译再翻译，而 EDA 方法主要使用同义词替换、随机插入、随机交换、随机删除对文本数据进行处理。 本文也使用了AWS SageMaker 的自动超参数优化来为 BlazingText 的文本分类算法找到最优超参数。

本文使用基于 DBpedia 的公开数据集处理生成的含有14个类别的不均衡文本数据，并进行了不做任何样本不均衡处理的 Baseline 实验和包含回译和 EDA 两个方法的过采样实验。

原文链接:【https://www.infoq.cn/article/xbSAYuJcQrm048GHl5dJ】。未经作者许可，禁止转载。

版权声明
本文为[InfoQ]所创，转载请带上原文链接，感谢
https://www.infoq.cn/article/xbSAYuJcQrm048GHl5dJ?utm_source=rss&utm_medium=article

边栏推荐

猜你喜欢

随机推荐