9.9元能干什么？一杯奶茶？一個(gè)漢堡？還是一套來自自己數(shù)字分身的寫真集？最近，不少人選擇了后者。

最近逛朋友圈的網(wǎng)友發(fā)現(xiàn)，一大批畫風(fēng)精致、造型多樣的寫真照片充斥著朋友圈，這些照片幾乎把每個(gè)人都呈現(xiàn)出了明星般的造型和外觀，而正是這樣的“正向”呈現(xiàn)，也讓越來越多用戶愿意花9.9元去為自己也生產(chǎn)一套這樣專業(yè)攝影館效果的照片。

(資料圖片)

但是“奇妙”的技術(shù)背后，又會(huì)有那些“不妙”之處呢？

妙鴨相機(jī)“妙”在哪里？

“在妙鴨相機(jī)里，通過上傳一些你自己的照片，就可以擁有一個(gè)專屬的數(shù)字分身，然后挑選你喜愛的寫真模板，就可以得到一張張專業(yè)質(zhì)感的寫真?！痹谌缃窕鸨拿铠喯鄼C(jī)小程序宣傳頁(yè)面上，大家大概就能夠了解到這款小程序的主要功能。

南方+記者進(jìn)入小程序體驗(yàn)發(fā)現(xiàn)，用戶點(diǎn)擊“制作數(shù)字分身”后，按照系統(tǒng)提示上傳20張基礎(chǔ)照片，然后點(diǎn)擊“馬上生成”，便會(huì)跳轉(zhuǎn)至付款頁(yè)面進(jìn)行9.9元的充值。根據(jù)頁(yè)面顯示，制作數(shù)字分身僅需30分鐘左右。數(shù)字分身制作完畢后，用戶便可使用“生成寫真”功能，選擇包括商務(wù)寫真、時(shí)報(bào)海報(bào)、證件照，以及校園、懷舊、旅游等不同場(chǎng)景和風(fēng)格下的個(gè)人寫真。不過用戶如果需要高清化和下載寫真，就需要額外充值鉆石。據(jù)了解，高清化和下載操作每次需2鉆石，在充值比例中等價(jià)于0.2元人民幣。

正是這么一款采用AI生成技術(shù)的小程序，如今卻紅透半邊天。南方+記者在提交照片時(shí)，就被提示“服務(wù)器被擠爆了”，在成功上傳20張基礎(chǔ)照片后，也還需要等待10分鐘左右識(shí)別時(shí)間。真正進(jìn)入數(shù)字分身制作環(huán)節(jié)后，會(huì)發(fā)現(xiàn)自己身處數(shù)千名“求照片”的隊(duì)列之中，需要等待近10個(gè)小時(shí)。

如果說利用技術(shù)優(yōu)勢(shì)能夠讓人“變美”是妙鴨相機(jī)的妙招，那其火起來的過程則可以說更“妙”。據(jù)南方+記者了解到，這款小程序最初只是在小紅書等內(nèi)容平臺(tái)冷啟動(dòng)，引發(fā)了用戶的自發(fā)性體驗(yàn)，隨后引起了更大范圍的關(guān)注。

而據(jù)公開資料顯示，妙鴨相機(jī)的主體公司為未序網(wǎng)絡(luò)科技（上海）有限公司，屬于阿里大文娛參投的創(chuàng)業(yè)團(tuán)隊(duì)，但是從其火起來的過程來看，阿里生態(tài)并沒有給予太多的加持，更多的則是來自社交網(wǎng)絡(luò)的自發(fā)性力量。

AI應(yīng)用也有“不妙”之處？

“一照難求”的背后，妙鴨相機(jī)在用戶隱私和數(shù)據(jù)安全方面也引發(fā)了不小的爭(zhēng)議。

在妙鴨相機(jī)走紅后，就有網(wǎng)友發(fā)現(xiàn)用戶協(xié)議中存有對(duì)用戶內(nèi)容可以“任何形式任何范圍使用”的描述。如此“肆無忌憚”的描述，讓不少網(wǎng)友不寒而栗。

隨后妙鴨相機(jī)在微博回應(yīng)表示，因?yàn)樵脩魠f(xié)議內(nèi)容有誤，已第一時(shí)間根據(jù)妙鴨的實(shí)際情況進(jìn)行了修改?！跋虼蠹页兄Z，您所上傳的照片只會(huì)用于數(shù)字分身制作，不會(huì)提取也不會(huì)用于識(shí)別和其他用途，且分身制作完成后自動(dòng)刪除?！?/p>

此外，也有網(wǎng)友反映，除了上傳自己的照片外，同樣可以上傳別人的照片，也就是說擁有你的數(shù)字分身的，可能并不只是你自己。

南方+記者在體驗(yàn)中也發(fā)現(xiàn)，對(duì)于是否為本人照片，小程序目前尚未有相關(guān)的規(guī)定，的確存在可以冒用他人照片使用的可能性。南方+記者隨機(jī)下載了一張網(wǎng)絡(luò)上“路人”的正面照片測(cè)試，毫無障礙就通過了“正面照片”的審核，且審核期間沒有盜用他人照片的風(fēng)險(xiǎn)提示。

妙鴨相機(jī)官方客服方面則回應(yīng)表示，根據(jù)“隱私協(xié)議第11條有規(guī)定，使用他人照片需得到他人授權(quán)”“平臺(tái)不鼓勵(lì)這種行為”。而在妙鴨相機(jī)相關(guān)用戶協(xié)議中則顯示，“您保證對(duì)于您的上傳內(nèi)容擁有相應(yīng)的合法權(quán)利或已取得他人合法授權(quán)并有權(quán)用于本服務(wù)；否則，造成的一切后果及損失由您自行承擔(dān)?！?/p>

個(gè)人信息應(yīng)該如何保護(hù)？

“我們支持并鼓勵(lì)新技術(shù)催生新場(chǎng)景創(chuàng)造新需求但企業(yè)在新技術(shù)的商用過程中也應(yīng)該重視消費(fèi)者權(quán)益！”在“深圳市場(chǎng)監(jiān)管”公眾號(hào)中，對(duì)于妙鴨相機(jī)所可能存在的問題，表達(dá)了自己的觀點(diǎn)。

據(jù)南方+記者了解到，妙鴨相機(jī)走紅的同時(shí)，關(guān)于其大量獲取用戶照片，個(gè)人隱私方面是否合規(guī)的問題也引發(fā)了安全領(lǐng)域的廣泛關(guān)注。

國(guó)內(nèi)知名白帽子公司KEEN公司聯(lián)合創(chuàng)始人、獨(dú)立安全研究員宋宇昊表示，看一項(xiàng)應(yīng)用是否正規(guī)，可以從兩個(gè)方面來看，一是用戶上傳的照片是否會(huì)被存儲(chǔ)、存儲(chǔ)多久、照片和用戶信息在傳輸和存儲(chǔ)過程中，是否存在泄露風(fēng)險(xiǎn)；二是上傳的照片是否會(huì)被用于AI模型訓(xùn)練。“第一種情況，一旦由于外部攻擊或內(nèi)部不法人員導(dǎo)致泄露，那么用戶的照片與相關(guān)的用戶信息可能流入黑產(chǎn)，被用于針對(duì)性的詐騙，或者其他犯罪行為。第二種情況，如果用戶的照片在用戶不知情的情況下，被用于模型訓(xùn)練，那么用戶的一些面部特征可能會(huì)出現(xiàn)在其他地方的生成圖片中，這可能是用戶不希望發(fā)生的。”宋宇昊表示。

妙鴨相機(jī)方面則指出，在中華人民共和國(guó)境內(nèi)產(chǎn)生或收集的個(gè)人信息，存儲(chǔ)在中國(guó)境內(nèi)的服務(wù)器。除非取得用戶的單獨(dú)同意，或?yàn)榱寺男信c用戶訂立的合同，或?yàn)榱俗裱煞ㄒ?guī)規(guī)定的義務(wù)，應(yīng)用方不會(huì)向境外提供用戶的任何個(gè)人信息。

深圳市市場(chǎng)監(jiān)督管理局方面針對(duì)妙鴨相機(jī)應(yīng)用就強(qiáng)調(diào)，《中華人民共和國(guó)消費(fèi)者權(quán)益保護(hù)法》第二十九條第二款規(guī)定：經(jīng)營(yíng)者及其工作人員對(duì)收集的消費(fèi)者個(gè)人信息必須嚴(yán)格保密，不得泄露、出售或者非法向他人提供。經(jīng)營(yíng)者應(yīng)當(dāng)采取技術(shù)措施和其他必要措施確保信息安全。而《中華人民共和國(guó)消費(fèi)者權(quán)益保護(hù)法》第二十六條第二款規(guī)定：經(jīng)營(yíng)者不得以格式條款、通知、聲明、店堂告示等方式，作出排除或者限制消費(fèi)者權(quán)利、減輕或者免除經(jīng)營(yíng)者責(zé)任、加重消費(fèi)者責(zé)任等對(duì)消費(fèi)者不公平、不合理的規(guī)定，不得利用格式條款并借助技術(shù)手段強(qiáng)制交易。

此外，深圳市市場(chǎng)監(jiān)督管理局也強(qiáng)調(diào)，國(guó)家網(wǎng)信辦等七部門也在近日聯(lián)合發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》（下文簡(jiǎn)稱《辦法》），自今年8月15日起施行，其中對(duì)知識(shí)產(chǎn)權(quán)、個(gè)人信息也有相關(guān)規(guī)定！該《辦法》既是促進(jìn)生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要，其中明確生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)，使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型；涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形。

作為AI落地應(yīng)用的一種新體驗(yàn)，妙鴨相機(jī)的出現(xiàn)給予了用戶全新的體驗(yàn)，但是同樣面對(duì)各種的質(zhì)疑和挑戰(zhàn)，而面對(duì)新技術(shù)新模式所帶來的問題，也有待監(jiān)管部門和行業(yè)在發(fā)展中探索解決之道。

南方+記者 葉丹

【作者】 葉丹

南方產(chǎn)業(yè)觀察