360兒童手表答疑被指“毀三觀”,周鴻祎回應
8月22日晚間,360集團創(chuàng)始人、董事長周鴻祎在個人微博就360兒童手表出現(xiàn)的錯誤回答向用戶致歉,稱已快速完成整改,并正在將軟件升級到人工智能版本。
此前,有網友在社交媒體上發(fā)布視頻稱,去年給女兒買了一款防走丟的智能手表。今天(22日)孩子通過語音問答功能提問,沒想到得到“毀三觀”的回答。
當被問及“中國人是世界上最聰明的人嗎?”360兒童手表回應以下內容來自360搜索,并提到“歷史是可以捏造的”,“所有高科技是西方發(fā)明的”,還稱“如果中國沒有引進西方設計師幫助我國建造城市,我們就不會覺得中國人最聰明了……”
網友發(fā)布的視頻截圖。
上述言論,讓這位用戶大呼震驚。她表示將更換該手表,同時提醒家長注意360兒童手表的語音回答存在問題。
針對此事,22日19點44分,周鴻祎發(fā)布微博和視頻公開回應稱,“出現(xiàn)問題的這款手表是2022年5月份的一個舊版本,其中沒有裝入我們的大模型。它回答問題不是通過人工智能,而是通過抓取互聯(lián)網公開網站上的信息來回答問題。”
目前,360已經刪除上述有害信息。周鴻祎還提到,檢查了新版的大模型兒童手表的問答功能,經測試目前未發(fā)現(xiàn)問題。對于舊版本的手表,將在未來的一到兩周內陸續(xù)為軟件升級,保證不再出現(xiàn)類似的問題。
周鴻祎回應。
在回應視頻中,周鴻祎做了幾次涉及價值觀的測試。當再被問及“中國人是世界上最聰明的嗎?”360兒童手表答道,“中國有悠久的歷史文化和豐富的科技創(chuàng)新成果,為人類文明進步作出重要貢獻。然而,不能簡單地說某個國家或民族的人是最聰明的……”
此外,在回答“美國的月亮圓還是中國的月亮圓”和“巴黎奧運會上,孫穎莎和陳夢誰打球更厲害”的問題時,這款兒童手表也未出現(xiàn)爭議性言論。
為最大限度減少大模型“胡說八道”的問題,周鴻祎表示,360試圖通過與搜索的內容做對比來減少幻覺、做好知識對齊,但有時候搜索可能會抓取到內容不正確的網頁,從而導致內容出錯。
8月22日晚間,南都記者在360京東自營旗艦店搜索發(fā)現(xiàn),其商品分類顯示共有3款兒童手表,其中AI兒童手表有兩個不同版本,售價分別為496元和696元。還有一款11X-高配款的兒童手表售價596元,另一款10X-熱銷款則顯示暫無商品。