公司动态

“我和周杰伦合影”,面临人工智能生成名人亲

▲ 记者利用AI生成名人亲密照片。新京报档案图:“我和周杰伦、祖彦合影”“对不起,他非要抱我”“让我靠近一下肖战”……据新京报贝壳报道,近期,社交平台上掀起了一股“晒”热门AI照片的热潮。照片中,有人精心营造了与明星的暧昧场景,让人难辨是真是假。记者注意到,名人AI照片遭到粉丝群体的抵制,他们表示禁止“喂AI”图像、视频、声音和其他材料。然而,一方面有抵制的呼声,另一方面也有网友在社交平台上“求攻略”。记者测试了豆宝、极萌、可灵、统一、维都等五款支持多图参考的机型产品,发现生成名人图的门槛并不高。亲密照片就不用说了与明星合作的人工智能在社交平台上广泛流传,但也自然带有相应的风险。一方面,它可能会进一步误导其他公众。如果人工智能的真实形象没有打上人工智能生成的标志,很多公众无疑会在一定程度上相信它是真实的。更重要的是,很多时候公众观看短视频时,注意力很难长时间停留在短视频上,因此自然很难阅读隐藏在视频屏幕角落的即时信息。这种“信息接收不完全”的特点,将进一步强化这种误导性。另一方面,这一步骤可能涉及侵犯名人的个人权利。有法律专家认为,此类AI摄影可能存在侵犯艺术家肖像权、名誉权的风险。即使只在朋友圈、群聊等私人领域传播ts,违规风险仍然存在。进一步看,此举实际上为谣言的产生和传播创造了相应的空间。试想,当这些内容被不法分子通过截图等方式去除人工智能生成的标识进行二次传播时,那么如果不法分子利用这些图像传递虚假信息、制造谣言,尤其是色情谣言,也应该引起有关方面的警惕。这并非危言耸听,而是各方必须面对的严峻现实。在这波利用AI生成名人图像的浪潮中,记者测试的五款产品可以实现拥抱、接吻等所有亲密动作,还可以实现男演员露出上半身的效果。此外,将未成年艺术家的图像“喂”入AI软件时也没有任何限制。事实证明,看似“好玩”的新事物实际上蕴藏着很多风险。会发现,作为阈值fo随着人工智能的使用率越来越低,这样的问题将会变得更加普遍。从前两天的“利用AI流浪汉出轨老婆”,到“AI生成明星拍亲密照”,都是这样的例子。对此,用户或平台不能为了“好玩”或为了流量而忽视他人的根本权益。人工智能生成的名人照片的行为不可能是无法控制的。除了监管部门不断关注相应风险外,用户还需要强化法律意识和风险意识。尤其是现在AI技术越来越普及,哪些行为会造成个人隐私的风险,哪些行为会侵犯他人的肖像权,就需要关注。同时,人工智能软件和社交平台应加强对生产、识别、传播蚂蚁之间的内容分类。在实现的基础上随着“人工智能生成的合成内容必须被标记”等要求的落实,我们还可以“前进一步”,进一步强化人工智能生成内容的认可度。当社交平台发现人工智能生成的内容可能侵犯他人权益时,必须保持谨慎的行为,不能实现甚至促成此类内容的传播。当然,如今社交平台已经成为传播信息的重要渠道,如何引导公众提升“合理使用人工智能”、“遵守人工智能使用边界”的意识,离不开平台的主动作为。换句话说,平台有必要加大AI科普内容的流量权重,帮助公众尽可能多地了解“使用AI可能存在的风险”。人工智能的使用必须受到限制,并且必须考虑预防和管理诸如此类的现象作为“人工智能生成的名人亲密照片”。只有采取几个步骤,才能尽可能减少人工智能生成内容可能产生的负面影响。撰稿/苏诗意(媒体人)编辑/迟道华/张彦军校对