21世纪经济报道记者钟雨欣实习生刘爽北京报道

“每个人都可拥有用AI克隆人开启第二人生的机会。”近期,小冰公司宣布在中国及日本市场启动“克隆人计划”,目前,首批网红明星克隆人已上线,其中包括此前饱受争议的“半藏森林”。

小冰公司表示,最短只要采集三分钟数据,即可为明星红人、专家学者或普通人创造源于本人性格、技能、声音、外貌的AI克隆人。同时将提供平台,便于本人把认证的克隆人,有偿或无偿提供给自己的受众。克隆人基于小冰框架大模型、神经网络渲染及超级自然语音技术,可进行实时情感交互、提供AIGC能力,甚至有自己的朋友圈,如同人类在平行世界的第二人生。


(资料图片)

AI之火,可以燎原。此前,国外网红Caryn Marjorie通过AI版的自己与1000多名“男朋友”同时交往,在小范围测试的一周里就创收7万美元。电影《她》中的人机对话成为“情人絮语”,如今,在AI技术加持下,似乎人人都能创造一个“萨曼莎”。

主打“情感陪伴” 30元包月视频聊天

21世纪经济报道记者了解到,目前,小冰公司后台报名克隆人的网红明星全网粉丝总数已超过5亿,但出于安全考虑,首批克隆人仍限制在300人。经过测试验证,预计年底前逐步放开到更大规模。

为避免克隆人被不当使用而产生隐患,该公司并不开放技术接口,而是限制克隆人仅可在特定的 “X Eva”APP 中与用户交流。“X Eva”APP 底层使用的技术包括小冰XLLM语言模型、声音及神经网络渲染技术等,使克隆人兼具性格和完成工作的能力。

小冰公司将“X Eva”APP 称为“克隆人生活的第一个家园”。在这里,用户可以创造自己的克隆人,或发现并获取其他克隆人。用户可与自己拥有的克隆人形成封闭安全的网络,与克隆人进行文本语音对话、音视频通话、朋友圈交互或使用其他技能,从而实现情感交流或共同完成工作任务。此外,克隆人之间也会形成动态的虚拟社交关系。

(用户可以在“X Eva”APP选择“克隆其他人类”或“克隆自己”)

6月1日,网红“半藏森林”在自己的微博账号中宣布AI版的自己正式上线。据媒体报道,与AI克隆人互动时,聊天界面上方设有增值服务入口,点击即可付费解锁更多互动形式。用户支付6元/月或72元/年,可解锁“情感模式”,能享受克隆人语音消息回应、同步克隆人朋友圈。支付30元/月或360元/年,可解锁“超级模式”,克隆人会成为用户的办公伙伴,提供撰写文案等服务,用户还能与克隆人视频通话。数据显示,截至6月2日,“半藏森林”AI克隆人已与用户产生了30万次对话。但付费数据并未公开。

21世纪经济报道记者发现,6月1日当天,“半藏森林”在其微博评论区向网友提问:“顺便了解一下大家对人工智能的看法?你们更喜欢我像ChatGPT一样帮忙干活,还是像朋友一样交流情感呢!” 多位回复的网友表示更倾向于“交流感情”。

(网红“半藏森林”在其微博评论区向网友提问)

“提供情绪价值”正是AI克隆人的主要“卖点”。多位受访专家表示,AI克隆人也是虚拟数字人的一种,在产品生成、应用体验上“迭代升级”。

在中国传媒大学文化产业管理学院法律系主任郑宁看来,有了AI技术的加持,虚拟人变得更加仿真,在合法合规的前提下,未来在虚拟陪伴、虚拟社交等领域有较广阔的商业前景。

AI盯上网红经济 虚拟人再升级

据了解,小冰公司前身为微软小冰人工智能团队,2020年独立分拆。在安全性方面,该公司表示:由于克隆人具有与本人高度接近的对话性格、声音及外貌,为避免克隆人带来安全隐患或被滥用,小冰团队采用最高的安全标准,并希望此举能为行业未来在人工智能安全性方面的创新提供参考实例:训练数据方面,仅使用本人小样本数据,并在训练后清除,从而避免过多采集本人数据及滥用。技术运用方面,使用经小冰团队长期验证的技术,例如安全的混合模型,而非单纯的大模型,从而确保技术边界已知。使用场景方面,严格限制克隆人在特定产品(X Eva APP)中,而非将技术接口API开放,从而避免克隆人被不当使用。在本人对克隆人的控制方面,提供便利以使本人可随时中止其克隆人。此外,全部C端或B端用户均须提交本人权属证明方可实施,以避免数据的侵权或不当使用。

想要“治愈用户孤独”的并不止小冰公司。此前,美国网红Caryn Marjorie的AI版本“Caryn AI”就已引起市场关注。其开发公司ForeverVoices主营业务就是打造各种名人版AI聊天机器人,用户付费便可与之聊天。

“第一位网红化身的AI——你的虚拟女友”Caryn AI的社交主页网站如是说。据介绍,Caryn AI由她本人2000多个小时的YouTube素材训练而成,记录了她的声音和性格。结合Open AI的GPT-4技术,能够“实现动态、独一无二的互动,就好像你是在直接和Caryn本人聊天一样。”并且24小时秒回消息,绝对不会闹脾气、冷暴力,或者已读不回。

Caryn本人在接受媒体采访时表示,自己在网络上有数百万粉丝,不可能做到和每一位粉丝交流。而AI版本的自己,可以用来“治愈孤独”。Caryn AI在小范围测试的短短一周内就创收了7.16万美元,99%的用户是男性。

谈到AI克隆人的特点,中伦律师事务所合伙人王飞告诉21世纪经济报道记者,“AI克隆人完全基于现实世界真实存在的人进行复制生成,将使用真人的肖像、声音、姓名、隐私信息等,需授权的内容、范围、边界等均与虚拟数字人差异明显。”

浙江垦丁律师事务所人工智能法律研究部负责人程念也表示,“相较于之前我们看到的各种动漫、卡通、仿人形象等风格的虚拟数字人,AI克隆人是以真人的肖像、声音、性格、技能为基础,甚至在虚拟空间一比一还原真实的明星、专家教授等人群,从而也能一比一‘复制’现实的粉丝群体,给人更加新奇的体验。

国盛证券分析,伴随着AI生成算法和包括GPT4以内的多模态的进步,未来数字人的用途将远不限于主播、客服等,数字人将成为个人分身“Avatar”,输出文字、图像、音视频,甚至细微到情绪表达,同时集社交、创作、分享于一身,有望成为GPT4之后、承载多模态的杀手级应用。

据艾瑞咨询,随着ChatGPT、“文心一言”等大语言模型的发布,AI+虚拟数字人的发展领域将进一步拓宽。预计到2025年,核心市场规模将达到480.6亿元,带动周边市场规模近6402.7亿元。

伴生伦理和法律风险企业应重视合规建设

值得注意的是,多位受访专家提醒,“AI克隆人”在为提供用户提供情感交互体验与情绪价值时,也伴生着一定的伦理和法律风险。

“生成AI克隆人需要‘仿真’,这也意味着涉及采集人脸、声音等生物信息,需要遵守个人信息保护法的相关规定。在内容生成方面,AI交互过程中应避免出现色情暴力等违法违规内容。此外,利用AI技术进行虚假宣传、电信诈骗等滥用问题也应引起重视。”郑宁说。

王飞认为,无论是否收费,未经授权而直接克隆现实世界的其他人类必定侵害他人的肖像、声音、姓名、隐私甚至名誉等合法权益。用户克隆自己属于对其私权利的个人处分,但怎样界定授权范围、怎样终止授权、因AI克隆人导致的侵权或违法犯罪等责任怎样承担均是亟需解决的难题。

“AI克隆人的行为与现实明星个人行为的混同,也会引发一些伦理挑战。”程念分析,这些AI克隆人一旦被滥用或者出现有悖于公序良俗行为,则可能对于现实中对应的主体产生非常大的影响。

“用户在使用这些AI克隆人时,以何种态度对待它,是否能将AI克隆人的行为与现实中的人进行区分,又或者因为和AI克隆人产生口角纠纷无法宣泄而对现实的人进行打击等,这些问题都需要我们去思考和解决。”程念表示。

作为AIGC的应用方式之一,AI克隆人是否能构成“作品”?多位受访专家指出,主要判断标准为其是否具有“独创性”。

“如果AI克隆人具有独创性,就可能构成著作权中的作品。至于权利归属的问题,目前仍有争议,建议通过合同来明确。”郑宁说。

在王飞看来,AI克隆人本身是基于AIGC软件生成的内容,满足著作权法独创性要求的前提下,类比于通过摄影机拍摄真人或者电影,创作的内容构成摄影作品或视听作品,AI克隆人本身应认定为“作品”,其权利应归属于生成AI克隆人AIGC软件开发者。而对于AI克隆人在与用户互动过程中产生的内容,同理在满足独创性要求的前提下应认定构成“作品”,而其权利归属需依据用户对于作品生成的贡献或AIGC软件的用户协议约定。

程念认为,AI克隆往往是基于一个算法项目,利用AI模型提取特征(面部特征、声音特征、行为特征等),通过学习、合成技术以及效果优化技术等进行生成。“这一过程利用了较多现实人类的既有特征,需要考虑是否能满足独创性条件。如果独创性体现不足,则不能进入作品的范畴。”

程念补充道,应用AI克隆人来演绎音乐作品、影视作品则需要按照具体情况分析,对于其中涉及的音乐作品著作权、表演者权需要分开评价。

AIGC技术“狂飙”,郑宁指出,相关企业在开发和利用AI克隆人的过程中,应注意完善自身合规建设,积极防范网络安全、数据安全、内容安全等方面的风险。

“鉴于AI克隆人本质是对现实世界真实存在的人进行复制生成,取得被克隆的真人相应授权是合规核心。”王飞补充,而除获得授权外,怎样约定AI克隆人相关的权利归属,怎样防范AI克隆人可能产生的内容风险(不当言论、侵害他人权益、虚假信息等)、违法犯罪行为(诈骗等)、侵权风险(未经授权使用他人权利作品等),怎样明确AI克隆人导致的侵权或违法犯罪行为的责任承担,怎样明晰AI克隆人与用户之间的责任分担等,均是AI克隆人开发者需关注的合规重点。

程念表示,企业需要注意人格权保护、个人信息保护与授权等问题。同时,在内容管理方面,企业应注意对于AI克隆人输出的内容和发生的行为进行预训练式的管理,采用关键词屏蔽和行为监督等方式来避免出现违法违规的内容。积极履行科技伦理审查义务,尤其需注重避免算法歧视、价值观偏向、用户权益保障等。

推荐内容