據報道，近日，有部分家長反映，自己通過小天才電話手表App跟孩子聊天時，“我是你媽”等表述被系統提示“可能含有不適宜內容”，令人哭笑不得。
對于有經驗的網友來說，遭遇這些毫不奇怪，肯定是因為家長在使用過程中，其發布的內容觸碰了電話手機系統后臺設置的敏感詞，導致被屏蔽。然而，即便在保護兒童這個超級正確的目標下，出現這種明顯荒誕的結果，仍顯得不正常。
廠商對兒童手表的內容進行干預可以理解，但干預總要有個限定邊界。廠商并非監管部門，這種明顯影響到用戶日常使用的干預行為，已經侵犯了消費者的合法權益。
對此，廠商官方客服表示，“是想創造一個綠色的溝通環境，一些敏感詞匯或者不文明用語都是發送不出去的。”但從實際情況看，或許“綠色”在表面上實現了，但“溝通環境”卻遭到嚴重破壞，未免本末倒置。
就像一些網友評論所說，把內容審核都交給無腦屏蔽系統，廠商一可以節約成本，二可以推卸責任，但犧牲的卻是用戶體驗。
而小天才電話手表粗暴設置敏感詞并非孤例，它實際上代表了一種普遍現象。近年來，諸多社交平臺加大了利用人工智能進行內容審核的力度，而這些人工智能又不夠聰明，結果導致笑料頻出。
內容審核事關內容安全和用戶體驗兩個重要方面，以目前的AI技術水平，想靠技術手段簡單解決的結果很可能就是兩個方面都做不好。
所謂道高一尺，魔高一丈，AI大范圍屏蔽關鍵詞的結果之一就是使當下互聯網上充斥了大量的“黑話”，講的和聽的都知道在表達什么。而其內容大部分也并非不合法，只是為了應付AI審核系統。
從目前情況看，市場主體對互聯網內容進行干預必不可少，但在干預的同時應兼顧互聯網用戶體驗，同時亦應時刻牢記干預的目的所在。如果忘卻初心而將之變成一種應付程序和形式主義，類似發生在兒童手表上的笑話肯定還將層出不窮。（信海光）
[編輯：
董磊 審核：王小明 戎小平
]
