出處：太平洋電腦網(wǎng)  作者：騷尼

前段時間，AI圈子里面發(fā)生了一件比較有爭議的事情。一位名為“將記憶深埋”程序員博主公開表示自己準備上線一個“拯救老實人”的人臉識別工具。

接下來是重點：這個工具通過機器學習的方式把羞羞網(wǎng)站的人臉數(shù)據(jù)和各大社交媒體的人臉數(shù)據(jù)交叉對比，鑒別那些出現(xiàn)在羞羞視頻里的“退休小姐姐”。

按照博主的說法，這個工具已經(jīng)成功識別了10多萬從事不可描述行業(yè)的小姐姐，識別率高達99%。

消息一出，圈內(nèi)圈外都炸了。贊成派感恩戴德，并主動為這個工具戴上了“原諒寶”的高帽；反對派群起而攻之，認為這是對女性隱私的極不尊重，有違公序良俗。

騷尼從技術(shù)邏輯上捋了捋，發(fā)現(xiàn)這玩意兒的BUG其實很多。

一來沒有任何證據(jù)佐證它的識別率，由始至終全憑博主一面之詞；二是即便識別率高達99%，剩余1%造成的誤傷也是極其致命的；再者網(wǎng)上存在著很多偷拍視頻，把“被偷拍”等同于“從事羞羞事業(yè)”，從事實邏輯上也明顯不通。

由于這件事引發(fā)關(guān)于隱私和道德的爭議太大，博主最終選擇刪庫、道歉、跑路以平息風波。

本以為事情就這樣隨著志玲姐姐嫁人、宋仲基宋慧喬離婚的娛樂熱點過去了，誰知道經(jīng)由營銷號“妙手回春”地炒作，“原諒寶”（經(jīng)證實是山寨版）以H5的形式原地復活了。

于是，騷尼在這款“原諒寶”沒被下線之前，親自體驗了一番“AI鑒綠”。

1分鐘鑒綠帽，200萬人都在用

順著那個看起來很山寨的“原諒寶官方”提供的鏈接，騷尼順利進入了這款原諒寶H5工具。

工具頁面上清楚地顯示這實時使用人數(shù)，在我到達之前已經(jīng)有超過250萬人用過了原諒寶（沒想到不相信另一半的人，竟然有這么多）。隨著我多次體驗摸索，發(fā)現(xiàn)這很可能是個局。

由于從未做過任何逾矩的事情，騷尼這次大大方方地按照頁面指示上傳了一張自己的正臉照。經(jīng)過1分鐘的等待，頁面返回了一個稱為“原諒指數(shù)”的數(shù)值“96%”。

根據(jù)介紹，原諒指數(shù)在90%以上可認為你們的感情安全。

騷尼又嘗試著上傳一張蒼老師的照片，實測的原諒指數(shù)竟然高達97%（原地爆炸）。作為曾經(jīng)業(yè)內(nèi)收視率第一的知名人士，蒼老師的原諒指數(shù)竟然在我這等凡人之上，簡直是行業(yè)的奇恥大辱。

不只是蒼老師，根據(jù)其他網(wǎng)友的測試，其他業(yè)界名人的原諒指數(shù)也都在95%以上。

所以，這個所謂的原諒指數(shù)很可能是隨機生成的。

披著技術(shù)外衣的PPT，處處是引誘

在騷尼體驗的十幾分鐘里，原諒寶的使用人數(shù)增加了1萬多，相當于每分鐘就有100+人在使用。這其中離不開個人內(nèi)生的好奇和窺探欲，同時，也少不了原諒寶中各種誘導的推波助瀾。

原諒寶的出現(xiàn)，本身就是對那類有需求人士的最大誘惑。頁面上諸如“專為保護老實人而生”、“想知道TA拍過的照片和視頻嗎”的挑逗暗示，則進一步放大的窺私心理。再加上綠得發(fā)黑的頁面背景，從視覺上強化了心理沖擊，把持不住的就放手一試了。

除了各種話術(shù)暗示之外，“靠譜”和方便是原諒寶的最大的誘源。

一進入頁面，當頭就是“人臉定位、智能模擬、數(shù)據(jù)對比”三個響當當?shù)募夹g(shù)大棒，給你營造一種專業(yè)的錯覺。

在進行到所謂的“人臉解碼”和“智能匹配”階段，頁面上則是事無巨細地把整個過程和你演示了一遍。當你看到“Se**8、陌*、探*”這些敏感字眼時，腎上腺立馬分泌壓力荷爾蒙，同時自動腦補出“哇，真的在匹配”的過程。

而比起傳統(tǒng)的抓*在床、請私家偵探，原諒寶把操作難度將至最低。一張照片就能搞定，省時省力還不花錢。很多人就是抱著“試出了就是賺，沒試出純屬娛樂”的心態(tài)上傳了對象的照片。

俗話說“抓賊拿臟，抓奸在床”，私家偵探出馬也知道像狗仔那樣偷拍一些照片來坐實罪責。

而從頭到尾，我們在這個原諒寶上看不到任何真實數(shù)據(jù)，沒有數(shù)據(jù)庫說明，沒有匹配來源明細，整個過程空口鑒綠帽。單憑一個指數(shù)就說我有問題？你倒是給個鏈接給個視頻我看看??！

你們忽視的這幾個細節(jié)，我細思極恐

原諒指數(shù)是假，但是你上傳的照片卻是真真兒的。

騷尼在測試這款原諒寶的時候，特意上傳了卡通頭像和明星頭像，發(fā)現(xiàn)都會被原諒寶攔截。要想獲得原諒指數(shù)，只能上傳真人像照。

讓人費解的是，在你上傳照片之后，原諒寶會自動識別照片人物的性別、年齡和表情，準確率出奇地高（性別準確識別，年齡一般只偏差2~3歲）。

不鑒綠，還要識別真人，這是什么騷操作？

還有一個引起騷尼警惕的地方是，在完成人臉匹配之后，原諒寶需要你填寫照片對象的名字，否則無法查看原諒指數(shù)。那些真想要測一測對象的人，大概率直接填了對象的真名。

還沒發(fā)覺什么不妥？原諒寶絲毫不費功夫地套出了真人照和人名，利用上AI識別出來的性別、年齡，如果配合從黑市上買來的隱私數(shù)據(jù)，匹配出完整的個人信息不是沒可能的事兒。

當心那些“以人性作套”的技術(shù)犯罪

當然，上面只是用原諒寶來闡述了一種可能性，但這種可能足以引起灰黑領(lǐng)域的騷動。

這種利用人性去套取信息，從而實施詐騙犯罪的手段，比起要背著偽基站蹲驗證碼、做個流氓APP常駐后臺的方法更容易操作也更低風險。

我們嘴上天天念叨著佛家的“貪、嗔、癡、慢、疑”（五毒心，不了解的可以百度一下），轉(zhuǎn)身就因為這五毒而跳進了黑產(chǎn)的圈套。

貪小便宜點開了標著“2折nlke”的郵件，下一秒就成了黑產(chǎn)的挖礦肉雞；想要和性感荷官親密互動而下載了博彩APP，輸盡3千塊還沒見到小姐姐的背影。

這一次若開發(fā)者有意，完全有能力匹配好250萬條個人信息（理想值），按照最不濟的1分錢一條來算，開發(fā)者轉(zhuǎn)手就能賺個二萬五。

除了利用性惡的一面，原諒寶還搭上了AI的技術(shù)快車。不少技術(shù)開發(fā)者基于數(shù)據(jù)爬取、機器學習等手段，炮制出許多以假亂真案例。

在這個星期遭到全網(wǎng)封殺的DeepNude（一鍵脫衣）再一次刺激了社會對AI造假的敏感神經(jīng)。在這個解鎖掃臉、支付憑臉、貸款靠臉的人臉識別年代，我們很難想象黑產(chǎn)還會利用AI、利用我們的數(shù)據(jù)做出什么來。

原諒寶的做法打開了隱私盜用的新版潘多拉盒子，往后以人性為誘、以AI技術(shù)為手段盜用隱私的事件相信會更加頻發(fā)。而騷尼在這里，只能提醒大家，萬事小心。