兒童智能產(chǎn)品開發(fā)必須嚴守底線

近日，某品牌兒童手表搜索功能出現(xiàn)“不良答案”的消息登上熱搜。相關答案毀三觀的程度令人驚詫。事后，企業(yè)表示將整改并接受社會監(jiān)督。

為什么會出現(xiàn)這些毀三觀的答案？從技術的手段上分析，當然可以得出各種結論。但技術背后的原因更值得深思，那就是一些企業(yè)缺乏社會責任感，在研發(fā)產(chǎn)品時沒有從保護未成年人權益、呵護未成年人成長的角度去設計產(chǎn)品。所以，才會出現(xiàn)各種漏洞。試想，如果沒有家長及時發(fā)現(xiàn)內容并推動企業(yè)整改，還會有多少毀三觀的內容持續(xù)污染青少年的認知？

更需要指出的是，不僅是某一款兒童產(chǎn)品存在類似問題。近年來，隨著人工智能技術、大數(shù)據(jù)等科技發(fā)展，幫助兒童生活、學習的電子產(chǎn)品、App軟件更加豐富。相伴而來的是，相關產(chǎn)品和軟件在內容輸出方面問題頻出，引發(fā)社會的廣泛關注和討論。這背后反映的是一些企業(yè)不斷追求應用最新的技術，卻忽略了技術應用可能帶來的風險。人工智能確實強大，其內容生成能力遠超過人類，但人工智能在價值判斷上存在紊亂的情況，它可能給人提供錯誤的信息，誤導、欺騙人類。這就需要人類把握好價值判斷的尺度。對于企業(yè)來說，在開發(fā)兒童產(chǎn)品時，認識到人工智能的局限性，牢記自身的責任，是必須守住的最基本的底線。

《中國教育報》2024年08月29日第2版