近年来，AI技术发展速度之快超乎想象，从图像到动画，从文字到声音，AI技术生成的网络产品不断突破人们的想象。最新的AI技术，通过一个简单的操作就能把2D图像变成3D，令人叹为观止。但是，在AI技术快速发展，且应用技术的获取日益简便的同时，也会给社会带来不少潜在风险。
AI应用在网上越来越多，最初人们只是用AI让旧照片里的人物动起来，随后是AI爆改影视人物，“康熙吹泡泡糖”“武松和潘金莲接吻”等恶搞视频大量出现，网友的创作脑洞越来越大，比如菜市场一对吵架的男女突然化身为武林高手对打……这些视频还只是让人一笑了之，但新的技术应用则让人有些担心，比如给人录一段不开口说话的视频，再加上一段配音，通过AI软件，就能迅速生成一段新视频，视频中人物说着台词，神态、口型竟分毫不差。如果不法分子制作这样的视频，再利用信息差进行诈骗、勒索，普通人几乎无从防范。
AI技术对未来的引领不容置疑，我们不能因噎废食限制AI技术发展，但是AI技术在网络社会存在滥用的现象，对普通群众的利益和社会稳定造成的潜在伤害也不容忽视。
去年8月，国家网信办等七部门联合发布了《生成式人工智能服务管理暂行办法》，为整治和规范AI生成内容打下了坚实基础。接下来，有关部门还应该时刻关注AI技术发展，与行业技术专家进行会诊，强化非专业领域AI生成图片视频进行标识等细则，积极应对新事物带来的新问题和新挑战。
