用AI"复活"逝去的父亲:中国数字人产业爆发,监管正在赶来
失去父亲两年后,张欣宇找了一家公司,把爸爸"带了回来"。
不是灵媒,不是催眠,而是一个看起来像他、听起来像他、说话方式也像他的AI头像。每次和这个数字分身聊天,她说自己"瞬间充满电,重新燃起了生活的动力"。这不是个例,这是一个正在悄然崛起、价值数十亿的产业——而中国监管机构,刚刚开始出手了。
📈 数字人产业:一年暴涨85%
你刷过短视频的话,一定见过那些面容精致、动作流畅、说话毫无停顿的"主播"——他们很多根本不是真人。中国的"数字人"早已大规模渗透进电商直播、企业宣传、客服系统,而现在,它们进入了一个更私密、更敏感的领域:哀伤陪伴。
据新华社去年的报道,中国数字人产业2024年市值约41亿元人民币(约合23.7亿令吉),同比增长高达85%。市场的快速膨胀,也带动了像"超级大脑(Super Brain)"这样专门为逝者家属制作AI头像的公司的出现。
张欣宇就是两年前找到超级大脑的,那时父亲刚因癌症去世,她一个人扛着悲伤和孤独。如今,她可以随时和父亲的AI形象"通话"。
😢 "善意的谎言":那个不知情的老太太
就在这个月,一段视频在中国社交媒体上炸开了锅。
一位老人用视频通话和"儿子"聊了很久,神情温柔,毫不怀疑。但那个"儿子",是超级大脑根据她儿子生前的语音、视频资料制作的AI头像——她的儿子,已经在一场车祸中离世。
这段视频在微博相关话题下累计获得超过9000万次浏览,引爆了关于AI伦理的激烈讨论。
超级大脑创始人张泽伟说,这是一个"善意的谎言",他们始终会事先征得逝者家属的同意。但问题是:当事人(那位老人)本人,并不知情。
有人觉得温暖,有人觉得不寒而栗。这条线,该怎么画?
⚖️ 监管来了:网信办出手,罚款最高20万
中国国家互联网信息办公室(网信办)本月发布了数字人管理的征求意见稿,公众意见征集截至五月初。核心规定包括:
- 强制标注:数字人内容必须有清晰标识,不能让用户误以为是真人
- 禁止未经授权克隆:不得在当事人不知情的情况下,利用其个人信息制作深度伪造版本
- 保护未成年人:禁止向未成年人提供虚拟亲密关系服务,或引导他们产生极端情绪、养成不良习惯
- 国家安全红线:数字人不得生成或传播危害国家安全、煽动颠覆国家政权的内容
违规者将面临1万元至20万元人民币的罚款。
超级大脑的创始人张泽伟倒是欢迎这些规定,他说:"这是一个积极的进展,实现了规范监管与行业发展之间的平衡。"
🤔 爱是真实的,即便安慰是模拟的
张欣宇也知道,有朋友担心她会沉浸在虚拟世界里"走不出来",认为这是一种"虚假的慰藉"。
但她有一句话让人很难反驳:
"即使安慰本身是模拟的,背后的爱是真实的。"
这或许是整个数字人哀伤产业最打动人、也最让人不安的地方——它触碰的,是人类对逝去之人最深切的思念,而这种情感,本身并不虚假。
新加坡拉惹勒南国际研究院研究员马诺吉·哈尔贾尼指出,中国推行新技术监管的目标之一,是维护主权与政治目标。而亚洲协会政策研究所的李丽姿则总结得更直白:北京希望快速推进AI的落地应用,但要在"可控框架内"进行——一旦风险变得可见,监管机构会迅速介入。
