AIGC-X官网,国内首个AI生成内容检测工具

什么是AIGC-X?

传播内容认知全国重点实验室、中国科学技术大学、合肥综合性国家科学中心人工智能研究院联合推出的AI生成内容检测工具，可以快速分辨出内容是机器生成还是人工生成的。AIGC技术的突破，将会大大推动人工智能在内容领域的全面变革。然而，AIGC在虚假信息、学术造假、网络钓鱼等任务中的滥用，严重阻碍新技术在媒体和教育等领域的应用。AIGC-X官网: http://ai.sklccc.com/AIGC-X/#/

AIGC-X起源

AIGC-X是实验室研究AI自我治理机制的重要成果，是探索如何从技术角度解决AIGC安全问题的初步尝试。结合内容识别、内容溯源等技术，AIGC-X能够有效的推动AI风险管理、安全审查和评估技术的发展，为建立安全可信AIGC生态的基础提供技术方案与支撑。近年来，随着人工智能生成内容（AIGC）技术的迅速发展，从AI绘画、AI作曲到虚拟人，再到最近爆火的ChatGPT，内容生产方式迎来了巨大的变革。在这个不断增长的互联网内容世界中，找到一种明确虚实、分辨真假的技术标尺成为行业长远健康发展的关键。为了应对这一挑战，人民日报社传播内容认知全国重点实验室、中国科学技术大学和合肥综合性国家科学中心人工智能研究院联合推出了国内首个AI生成内容检测工具——AIGC-X。该工具于今天正式开始全网公测.

AIGC-X怎么样?

据介绍，AIGC-X能够快速区分机器生成的文本和人工生成的文本，目前对中文文本的检测准确率已超过90%。人民日报社传播内容认知全国重点实验室首席科学家张勇东表示，由于ChatGPT等AIGC技术在对话咨询、文章写作和内容润色等方面具有广泛的应用场景，这一技术迎来了新的发展阶段。然而，伦理规范、内容侵权和信息造假等风险挑战也变得不容忽视，因此迫切需要推出针对性的检测产品，提升对内容生产新范式的监管治理技术能力。他介绍说，AIGC-X采用了算法融合与知识驱动的人工智能框架，通过深度建模来捕捉困惑度和突现频次等隐式特征。AIGC-X能够检测AI技术生成的假新闻、内容抄袭和垃圾邮件，具有广阔的应用前景，可应用于内容版权、网络钓鱼、虚假信息和学术造假检测等内容安全和内容风控领域。未来，AIGC-X还将扩展为对人工智能生成的文本、图像甚至视频的通用智能识别模型。
“对AIGC的适当引导和规范势在必行。”人民日报社传播内容认知全国重点实验室研究员靳国庆特别强调，我们必须重视防范AIGC在虚假信息、学术造假和网络钓鱼等灰色领域的滥用。他表示，“AIGC-X将推动AI风险管理和安全评测技术的发展，为建立安全可控的AIGC生态提供技术支持。”据介绍，在推出AIGC-X之前，人民日报社传播内容认知全国重点实验室已经推出了基于人工智能的“智晓助”和“白泽”两个内容风控系统，并在百余家机构中得到应用。人民网信息技术公司，专注于内容风控业务，已开发了“捕获AIGC”产品，并通过“人民审校”微信公众号进行发布。
根据工业和信息化部公布的数据显示，我国AI核心产业规模目前已超过4000亿元，企业数量接近4000家，带动相关产业规模超过数万亿元，并将继续快速增长。行业专家预测，作为数字经济和实体经济深度融合的新模式，AIGC将在产业创新发展方面发挥重要作用。张勇东表示，“AIGC-X不是一个静态的技术，而是随着AIGC的发展而不断发展的。”目前受限于时间和资源，AIGC-X在支持非常规问题和场景方面仍有待改进。例如，AIGC-X目前仅支持中文内容的检测，对英文的支持有待提高。此外，还需要进一步完善对图像、音视频等内容的检测能力，以支持全媒体内容的检测，为AIGC的健康发展提供保障。