摘要

本文介绍了一种名为Raply的创新型说唱歌词生成系统，该系统基于GPT-2模型，特别针对减少说唱歌词中的冒犯性内容进行了优化。通过使用一个名为Mitislurs的新数据集进行微调，Raply能够生成既符合说唱风格又减少冒犯性词汇的歌词。研究团队通过评估模型的韵律密度和冒犯性内容，证明了Raply在生成高质量说唱歌词方面的有效性。这是首次尝试在说唱歌词生成中解决冒犯性内容的问题。

原理

Raply系统的工作原理基于GPT-2模型的微调。GPT-2是一种基于Transformer解码器的生成语言模型，通过在大规模数据上的无监督预训练和在特定任务上的有监督微调两个步骤进行训练。在说唱歌词生成任务中，模型接收用户输入的查询p，并生成扩展q，其中q与p在语法、语义和特定于说唱的特征（如韵律）上保持一致。Raply通过在Mitislurs数据集上进行微调，有效地减少了生成文本中的冒犯性词汇，同时保持了说唱音乐的韵律和风格。

流程

Raply的工作流程包括数据收集、数据预处理、模型训练和生成歌词几个步骤。首先，从Genius.com收集大量说唱歌词数据，并进行预处理，去除不必要的部分如重复的副歌和非英语内容。然后，使用NLTK库对歌词进行分词和词形还原，并自动提取冒犯性词汇。接着，在预处理后的数据集上对GPT-2模型进行微调。最后，使用模型生成歌词，并通过韵律密度和冒犯性评分进行质量评估。例如，模型可以生成如下歌词：“And now I’m in the rap game, like the crack game / I got enemies coming, I play my game / I can be king or queen, like my style”。

应用

Raply的应用前景广泛，尤其在音乐创作辅助工具、内容审核和教育领域具有潜在价值。通过生成减少冒犯性内容的说唱歌词，Raply可以帮助音乐人和内容创作者遵守更严格的道德和法律标准，同时保持创作的自由度和艺术性。此外，该技术还可用于开发针对青少年的安全音乐教育工具，以及在社交媒体和在线平台上的自动内容审核系统。