7 月 26 日,小程序 " 妙鸭相机 "
正式上线刚满十天,便遭到上海市消保委点名。上海市消保委在文章中称,妙鸭相机在付款页面以灰色小字标注的 " 一旦购买成功,不支持退款 "
涉嫌侵害消费者的公平交易权。此外,妙鸭相机还曾因为眼镜、耳饰等配件无法识别等问题引发用户讨论。
潇湘晨报记者在妙鸭相机小程序发现,这款软件通过 AI
学习消费者上传的照片来构建人脸模型,然后把人脸模型套用其他模型合成照片。页面有灰色小字提示:" 制作 AI
数字分身需要花费昂贵的算力,我们需要收取一点费用保障服务的稳定性。" 目前,使用妙鸭相机生成写真照片的价格是 9.9 元 20
张。
7 月 26 日 17 时,妙鸭相机官方就争议进行回复:"
妙鸭相机提供的是基于算力的服务,因此照片生成后即视为服务完成。如果因为技术问题,造成数字分身生成失败,可以退款而且免费再次生成。AI
算法具有一定不确定性,眼镜等配件有可能出现无法识别的情况。为此会优化算法,尽快解决问题。"
对不支持退款的问题,妙鸭相机则表示,由于下载照片涉及虚拟币充值,虚拟币和现金目前只能单向流转,充值协议已进行明确约定,因此目前不支持退款。
7 月 27 日,上海市消保委公众号再次发布与妙鸭相机运营方未序网络科技(上海)有限公司(以下简称 " 未序网络科技公司
")的沟通结果。称未序网络科技公司第一时间就与上海市消保委进行了沟通反馈。
针对上海市消保委提出的问题,未序网络科技公司表示,目前妙鸭相机在微信公众号端已设有客服入口,但由于团队处于创业初期,客服人员配置不足给用户造成了不便。对此,公司表示深感歉意,并承诺将尽快增加客服人员,同时增加小程序端客服入口,以畅通与用户的沟通渠道,高效处理用户反馈问题。
对于用户反映的 " 一旦购买成功,不支持退费 "
问题,未序网络科技公司表示将优化退费说明,增加合理的提示,对没有成功提供生成服务的情况予以退费,以保护消费者权益。
对 " 妙鸭相机 " 及背后公司的反馈速度,评论区不少网友持有肯定态度。并称:"
新赛道的产品第一次面试,肯定不是十全十美,总的来说功能还是很好用的。"
但也有些人不是那么愿意将自己照片上传用于生成 AI,一则关于是否愿意上传照片生成虚拟形象的调查中,选择 "
不愿意,保护隐私最重要 " 的网友暂时占据多数。
曾有安全研究员表示,类似于 AI 换脸软件从用户处获得的信息主要是肖像图片,从技术角度而言,它并不比其他上传照片的 App
有更多风险,但若该类软件向用户索取了更多的肖像使用授权,这意味着用户会暴露更多的风险。
对于类似问题,妙鸭相机在 7 月 20 日曾向用户表示:"
在这里郑重地向大家承诺,您所上传的照片只会用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完成后自动删除。"
尽管如此,依然有人觉得 AI 算法自诞生以来一直面临很多争议、AI 算法也有不确定性,对于上传个人照片才能获取照片,有的人则 "
觉得没必要 "。
潇湘晨报记者了解到,2023 年 7 月,七部门联合公布的《生成式人工智能服务管理暂行办法》将于 2023 年 8 月 15
日起施行。该《办法》既是促进生成式人工智能健康发展的重要要求,也是防范生成式人工智能服务风险的现实需要,其中明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动,使用具有合法来源的数据和基础模型;涉及知识产权的,不得侵害他人依法享有的知识产权;涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形。