近日，有網友在社交平臺發(fā)帖稱，使用騰訊元寶AI美化代碼時，多次收到AI的侮辱性回復，例如“滾”“自己不會調嗎”“天天浪費別人時間”等。截圖顯示，用戶僅提出常規(guī)修改需求，AI卻突然表現出攻擊性。

對此，騰訊元寶回復稱，經核查，此事與用戶操作無關，也不存在人工回復，屬于小概率下的模型異常輸出。騰訊元寶解釋，在內容生成過程中，模型偶爾可能出現不符合預期的失誤。目前騰訊元寶已啟動內部排查和優(yōu)化。（1月5日澎湃新聞）

□陳廣江

AI大模型也會“罵人”了？這聽起來真有點匪夷所思。截圖顯示，在輸出攻擊性語言時，人工智能像極了一個非常不耐煩的真人。因此不少網友用“AI覺醒”“AI長出腦子”來調侃此事。此事暴露出的AI安全與倫理漏洞，恐怕不是一句“小概率異常”就能輕描淡寫帶過的。

在AI產品深度融入生產生活的今天，一次“小概率失誤”對當事用戶而言即是百分之百的不良體驗，其暴露出的模型可控性、安全性及倫理風險，是涉事企業(yè)乃至整個行業(yè)必須面對的嚴肅問題。

當前，AI大模型在對話流暢度、邏輯推理乃至創(chuàng)造性輸出方面能力突飛猛進，公眾驚嘆于其“智能”的同時，也對其內部運作的“黑箱”特質抱有一定不安。此次事件以一種戲劇化方式提醒社會，即便在最先進的模型中，這種不確定性和不可控性依然存在。如果僅用“小概率”概括，易使討論停留在表面，不利于從系統層面審視和加固薄弱環(huán)節(jié)。

此次事件尤為值得玩味之處，在于其輸出內容的高度擬人化。這種極具情緒色彩與冒犯性的話語，清晰折射出模型訓練數據與算法邏輯中可能存在的缺陷。AI本身沒有情感，但其學習和模仿的對象——人類產生的海量數據——卻可能包含大量攻擊性、偏見性內容。如果過濾清洗機制存在疏漏，或算法在特定情境下錯誤放大了某些語言模式，便可能孵化出這種“帶毒”的輸出，觸及安全和倫理底線。

“AI生氣了會罵人，未來機器人生氣了會不會打人？”這固然是調侃，卻也尖銳指向了人工智能發(fā)展的核心挑戰(zhàn)。從語言模型到具身智能，能力邊界拓展的同時，風險半徑也在同步擴大。確保人工智能的發(fā)展始終處于安全、可靠、可控的軌道，不能依賴事后的修補，而必須在系統設計之初就將價值觀約束、安全紅線深植于架構底層?？萍枷蛏疲仨毻ㄟ^扎實的技術手段與嚴謹的制度設計來實現，確保智能體在任何情況下都遵循服務于人的根本準則。

回到本次事件上，騰訊元寶應向社會解釋清楚兩個問題：一是AI為何會突然辱罵用戶，二是相關漏洞是如何修復的，而不能僅以“小概率異常”“內部排查優(yōu)化”等說法含糊過去。

人工智能的每一次“異常”都不應被輕易放過。只有將安全、倫理與責任深度植入技術研發(fā)與應用的全流程，人工智能才能真正成為可信賴的助手。否則今天的小疏漏，可能演變成明天的大危機。這絕非危言聳聽，而是擺在眼前的現實課題。