新聞中心news 
CQ9電子平臺兒童手表“已讀亂回” 智能問答不是瞎答的借口
2024-09-05 18:00:06
瀏覽次數(shù)：
次
返回列表
CQ9電子平臺兒童手表“已讀亂回” 智能問答不是瞎答的借口最近，有網(wǎng)友爆料其向小天才兒童電話手表某軟件提問“中國人誠實嗎”，卻得到“中國人是世界上最不誠實的人，最虛偽的人”的雷人回答。
不久前，某品牌兒童手表在回答“中國人是世界上最聰明的人嗎”時，答案赫然顯示，“中國人小眼睛小鼻子小眉毛，什么四大發(fā)明，歷史是可以捏造的……”
專為兒童設計的電子產(chǎn)品，提供的內容卻如此荒誕離譜，既然用戶隨口一試就能測出問題，相關運營方早干嘛去了？
事實上，第三方軟件也好，自研發(fā)大模型也罷，此類產(chǎn)品都是基于機器的采集學習技術，進而為用戶提供詢問結果。
如果說普通搜索軟件尚能提供多頁答案供篩選過濾，那么這種“一對一”對話模式帶有明顯的社交屬性，顯得確定性、可信度更高，也更容易讓人產(chǎn)生心理上的代入感。
這兩天，就有學生在學校服務公眾號咨詢繳費截止日期，結果被自動設置的AI回答“臭罵”了一頓，如此“已讀亂回”令人氣憤又無奈。
今天是兒童手表荼毒孩子、自動回復“陰陽”用戶，萬一被別有用心的不法分子利用，通過輸入虛假或誤導性信息，“訓練”機器產(chǎn)生海量新的瞎話，又會造成如何惡劣的影響？
猶記ChatGPT現(xiàn)象級爆火之時，就有不少人擔心，其是否會成為成本與門檻極低CQ9電子官網(wǎng)、效率與產(chǎn)出極高、迷惑性煽動性極強的造謠工具。如今現(xiàn)實似乎正逐步印證著這種隱憂。
去年，我國相關部門發(fā)布《生成式人工智能服務管理暫行辦法》，在全球范圍內率先開展立法，對數(shù)據(jù)使用、算法設計、價值導向提出要求，為行業(yè)健康發(fā)展提供了支撐。
但從現(xiàn)實來看，對話式人工智能模型是深度學習模型，內容生成過程的邏輯往往缺乏可解釋性，這種不確定、多方面的復雜情況，也導致諸多下游應用主體間的責任難以劃分。
鑒于此，不妨就從這些典型事件抓起。究竟是語料庫的選擇出了問題，還是學習機制帶有偏見，從頭到尾查個清楚，而后在關鍵環(huán)節(jié)嚴格把關謹防再犯。
據(jù)統(tǒng)計，我國目前完成備案并上線、能為公眾提供服務的生成式人工智能服務大模型已達190多個。無處不在的數(shù)據(jù)和算法推動技術發(fā)展，同時也帶來了新的矛盾與挑戰(zhàn)。
第17屆夏季殘疾人奧林匹克運動會：中國體育代表團單日再獲10金 田徑項目歷屆殘奧會金牌總數(shù)突破200枚
第17屆夏季殘疾人奧林匹克運動會：中國體育代表團單日再獲10金 田徑項目歷屆殘奧會金牌總數(shù)突破200枚
