11月21日，小紅書副總裁許磊出席2024烏鎮(zhèn)世界互聯網大會“人工智能技術創(chuàng)新與治理”論壇，并發(fā)表主旨演講。許磊指出，AIGC大幅降低內容創(chuàng)作門檻的同時，也對平臺治理帶來了新挑戰(zhàn)。小紅書已初步完成AIGC治理體系建設，將持續(xù)治理工作推進，守好“真實”的平臺生命線。

作為鼓勵用戶真誠分享的內容社區(qū)，小紅書歷經11年，已發(fā)展成“3億人的生活百科全書”?；趥€性化推薦算法，小紅書平臺將超過一半的流量曝光分配給千粉以下用戶，踐行流量普惠。“我們相信算法是有價值的。”許磊表示。

隨著生成式人工智能技術的興起，算法從分發(fā)領域進入到內容生產領域，對內容平臺帶來了全新的機遇與挑戰(zhàn)。AI輔助工具提升了用戶創(chuàng)作的積極性，同時也降低了惡意仿冒的門檻，增加了虛構新聞、假冒真人引流和虛假營銷的風險。

許磊表示，小紅書為“真誠分享”而生，真實是小紅書平臺的生命線。為此，小紅書在2023年就啟動應對AIGC的治理體系建設，并在公司層面成立了專項組，加快治理工作推進。

首先，加大AI識別模型的研發(fā)投入，基于“分類器”技術的識別模型，平臺對識別為疑似AI生成的內容進行顯著標識，提醒用戶注意甄別內容真實性。同時，平臺設置了機器識別+人工識別的雙重屏障，以減少AI生成低質內容的曝光，針對其中侵權、假冒、誘導等內容第一時間下架處理。

對于創(chuàng)作者，平臺要求主動對AI生成的內容進行顯著標識，并持續(xù)簡化打標流程，鼓勵創(chuàng)作者利用新技術進行內容創(chuàng)新的同時，也積極參與到生態(tài)建設中。

“小紅書將創(chuàng)新與治理兩手抓，迎接好新一波人工智能技術浪潮帶來的機遇與挑戰(zhàn)。”許磊表示。