上海市委網(wǎng)信辦指導(dǎo)小紅書、B站、拼多多等平臺清理違規(guī) AI 產(chǎn)品及信息

 6 月 12 日消息，IT之家從“網(wǎng)信上海”微信公號獲悉，為貫徹落實中央網(wǎng)信辦“清朗・整治 AI 技術(shù)濫用”工作部署，4 月下旬以來，上海市委網(wǎng)信辦聚焦 6 類突出問題深入開展第一階段專項行動。現(xiàn)向社會公布階段性工作成果，進一步凝聚共識，共同營造清朗網(wǎng)絡(luò)生態(tài)。

上海市委網(wǎng)信辦指導(dǎo)小紅書、嗶哩嗶哩、拼多多等 15 家重點網(wǎng)站平臺，集中清理“一鍵脫衣”、未經(jīng)授權(quán)的人臉或人聲克隆編輯、未備案等違規(guī) AI 產(chǎn)品、商品及相關(guān)營銷、炒作、推廣、教程信息。小紅書、嗶哩嗶哩主動發(fā)布專項行動治理公告，開通了有害 AI 內(nèi)容的舉報受理處置渠道；星野開展智能體全面排查清理。各重點網(wǎng)站和 AI 平臺共攔截清理相關(guān)違法違規(guī)信息 82 萬余條，處置違規(guī)賬號 1400 余個，下線違規(guī)智能體 2700 余個。經(jīng)整治，網(wǎng)絡(luò)違規(guī) AI 信息顯著減少。

上海市委網(wǎng)信辦深化大模型合規(guī)指導(dǎo)服務(wù)中心作用，指導(dǎo)各類提供生成式人工智能服務(wù)的主體落實合規(guī)義務(wù)，強化安全評估，迄今已完成 82 款大模型備案，87 款應(yīng)用登記。對 3 款未履行備案或登記程序提供服務(wù)且存在風(fēng)險的應(yīng)用，依法約談并給予行政處罰。