面向内容安全审核的人工智能应用探索

随着互联网内容的爆发式增长，内容安全审核面临巨大挑战。有害信息如暴力、色情、虚假信息等对社会秩序、用户权益和平台声誉造成严重威胁。为高效、准确地进行内容审核，宿迁市媒体融合技术应用重点实验室联合南京莱斯网信技术研究院有限公司开展面向内容安全审核的人工智能应用课题研究。

课题将通过对海量数据的收集与预处理，构建高质识别、高量巡查的互联网内容感知大模型，收集、分析、应用网络文本、图像、音频、视频、直播等多模态数据，围绕解决有害文本语义理解不足的难题，识别准确率不低于90%。

未来将进一步优化模型性能，拓展内容审核类型到更多领域，构建高效、精准的人工智能审核系统，能够快速识别各类违规内容，并探索与更多平台的集成应用，提升整个互联网的内容安全环境。