“付費會員價格比普通用戶高”“新人一天三四個紅包，消費數(shù)萬元的老客戶三四天拿不到一個紅包”“同一套餐不同價，老客戶被用力‘宰’”……新華每日電訊記者在某投訴平臺搜索發(fā)現(xiàn)，有近1.8萬條投訴中包含“殺熟”關鍵詞，有的年輕人也想通過“哭窮”的方式“馴化”算法。
近期，算法不透明和大數(shù)據(jù)“殺熟”再次引起關注。對于平臺經(jīng)濟發(fā)展，市場監(jiān)管部門也明確表態(tài)，要督促平臺企業(yè)提高算法透明度，優(yōu)化算法規(guī)則。
算法如同“讀心術”，用好了能為消費者和商家精準提供個性化服務，讓買賣雙方享受到技術紅利，但若“心術”不正，算法便會淪為算計，成為網(wǎng)絡生態(tài)的破壞者。業(yè)內專家建議，要更加完善算法監(jiān)管體系，避免本應享受“算法紅利”的消費者掉入“算計陷阱”。
“算法殺熟”套路屢見不鮮
近期，隨著機票預訂高峰的來臨，“罵機票貴”再次翻熱，矛頭指向大數(shù)據(jù)“殺熟”。
記者在網(wǎng)絡平臺搜索發(fā)現(xiàn)，一些“罵機票專用貼”熱度攀升，相關話題討論量高達70萬次，參與者覆蓋多個城市，以“哭窮”的方式倒逼機票降價。
在一些“反復評論罵機票，兩天驟降五六百”“哭窮砍價套路話術”等分享攻略的評論區(qū)，有網(wǎng)友跟帖評論基本都有針對性地點出航空公司和訂票平臺名稱精準“開罵”。有網(wǎng)友曬出“戰(zhàn)果”：從北京飛濟州島，罵之前870元，罵之后369元，并將成功經(jīng)驗分享。
“訂酒店用不同品牌手機搜出差價上百元的房價”“放在購物車里的商品多點幾次就會漲價”……新老用戶被“差別對待”、紅包發(fā)放“看人下菜”、同一商品百人千價。
記者梳理發(fā)現(xiàn)，近年來，先低價吸引客戶，等生客變熟之后，再利用大數(shù)據(jù)算法變相抬高價格的“殺熟”套路在酒店訂房、外賣團購、出行訂票等網(wǎng)購平臺屢見不鮮。隨著技術不斷迭代，消費者反映大數(shù)據(jù)“殺熟”也變得更加“先進”。
上海計算機軟件技術開發(fā)中心主任、研究員蔡立志表示，前兩年大數(shù)據(jù)“殺熟”行為有當時的算法技術不成熟的可能，而從去年開始，國內生成式人工智能大模型不斷涌現(xiàn)，在數(shù)據(jù)的匯聚能力和理解推理能力上明顯更強。
“懂你”的算法緣何淪為“坑你”的算計
“‘大數(shù)據(jù)殺熟’頻現(xiàn)”成為中消協(xié)公布的2024年上半年十大消費維權輿情熱點之一。四川省消委會去年下半年發(fā)布的《網(wǎng)絡消費者知情權保護調查報告》也顯示，在經(jīng)歷過網(wǎng)購商品和服務的消費者中，39.64%的受訪者遇到過“大數(shù)據(jù)殺熟”的情況。
甘肅慧聯(lián)信息科技發(fā)展有限責任公司總經(jīng)理王雪蓮介紹，對商家來說，客戶信息是最有含金量的銷售參考，而算法能幫助商家精準獲取最直接全面的客戶數(shù)據(jù)，其為消費者打上的標簽能夠為商品精確、高效地找到潛在客戶群體提供便利，提升成功交易的訂單數(shù)與訪客數(shù)。
蘭州大學信息科學與工程學院副教授劉忻分析，大數(shù)據(jù)“殺熟”的本質在于運用算法針對消費者購買習慣、經(jīng)濟實力進行精準畫像，精準地為用戶“貼標簽”。
“在實際操作中，一些平臺和商家確實存在為了銷量而利用算法‘算計’消費者的情況，通過用戶年齡、職業(yè)、消費水平等特征，對相同商品實施差異化定價。”王雪蓮表示，這樣的行為雖然短期來看利于盈利，但不利于長遠發(fā)展，久而久之會讓用戶產(chǎn)生信任危機，破壞網(wǎng)購生態(tài)。
受訪專家表示，如果“哭窮”反“殺熟”成立，說明算法對評論有效信息進行了抓取，但應對大數(shù)據(jù)“殺熟”，不能僅靠消費者“哭窮”。
“一時‘哭窮’成功不意味著一直都會成功，要看到其背后對規(guī)范算法的迫切需求。”劉忻說，“哭窮”砍價并非治本之策，甚至有可能還會讓大數(shù)據(jù)在掌握更多個人信息后進一步完善“殺熟”機制。
甘肅政法大學民商經(jīng)濟法學院副教授盛玉華坦言，大數(shù)據(jù)“殺熟”問題屢禁難止，一方面在于消費者舉證難、維權成本高，很難有力維護自身合法權益；更重要的是算法大模型備案尚在“成長期”，缺乏成熟規(guī)則指引，在責任主體上未對“服務提供者”等概念進行明確劃分，不足以應對實踐中的復雜角色定位，造成監(jiān)管難、問責難。
多措并舉破解算法“數(shù)縛”
業(yè)內人士和法律專家認為，人工智能隱藏的消費陷阱，有些惡意行為屬于價格歧視，違反市場交易的公平原則，嚴重的已經(jīng)涉嫌大數(shù)據(jù)欺詐。如何在促進大數(shù)據(jù)賦能市場發(fā)展的同時，更好完善人工智能算法治理體系，提升監(jiān)管手段和能力，對大數(shù)據(jù)產(chǎn)業(yè)的發(fā)展和消費者權益保護都很重要。
目前，有關法律法規(guī)已對大數(shù)據(jù)殺熟問題作出規(guī)范。2024年11月，中央網(wǎng)信辦等四部門聯(lián)合發(fā)布通知，開展“清朗·網(wǎng)絡平臺算法典型問題治理”專項行動，提出嚴禁利用算法實施大數(shù)據(jù)“殺熟”，各地陸續(xù)開展相關算法治理專項行動。
前不久，市場監(jiān)管部門明確提出，要對大數(shù)據(jù)“殺熟”加強綜合治理，提高算法透明度，優(yōu)化算法規(guī)則，保障消費者合法權益。
劉忻表示，算法作為一種工具，其使用方向決定善惡，作為一系列代碼的集合，它在某些領域屬于核心資產(chǎn)，查看算法模型對執(zhí)法者來說需要一定門檻，這是目前規(guī)范算法的薄弱環(huán)節(jié)之一。從技術角度看，需盡快完善大數(shù)據(jù)算法模型制定依據(jù)和檢測辦法；從管理角度看，需加強監(jiān)管機制，明晰市場準入制度，讓大數(shù)據(jù)走出技術“暗房”。
2023年，上海計算機軟件技術開發(fā)中心籌建生成式人工智能質檢中心，2024年驗收通過，專門研究、控制和解決生成式人工智能帶來的潛在風險。受訪專家建議，未來亟需進一步加快推廣設立第三方檢測機構，對應用程序中的人工智能大模型開展安全性檢測。
受訪專家建議，要持續(xù)完善平臺算法規(guī)則的解釋機制，同時探索個人數(shù)據(jù)“所有權”保護問題。蔡立志認為，個人數(shù)據(jù)是極為重要的資源類型，各類App采集到的消費者數(shù)據(jù)如何使用和管理，是破解大數(shù)據(jù)“殺熟”的關鍵問題之一。
“個人在使用各類App時，可視為將個人數(shù)據(jù)交于App程序管理，應更加明晰其相關各方的權利義務。如果個人決定不再使用某款App，有權要求該App抹去此前的所有數(shù)據(jù)記錄。”蔡立志說。
盛玉華表示，人工智能技術迭代快，其在市場及消費領域的應用也在快速多樣化，設立統(tǒng)一的算法監(jiān)管機構，對于提升算法常態(tài)化治理水平很有必要。（新華每日電訊記者姜偉超 馬莎 王銘禹）
