欧美 国产 日本-欧美 国产 日韩 第一页-欧美 日产 国产精品-欧美 日韩 国产 在线-极品福利视频-极品成人

首頁 > 自媒體學習 > 自媒體學習 > 三問兒童智能手表:生成式人工智能如何守護兒童成長安全?

三問兒童智能手表:生成式人工智能如何守護兒童成長安全?

發布時間:2024-09-05 17:19:00來源: 13041198719

專家呼吁,生成式人工智能服務在進入兒童應用場景前,應加設“兒童AI產品”審核專區。既需要嚴格遵循和落實國家相關規章和指南,也需要加碼行業監管。

近日,據中國經濟網報道,網友孫女士稱向小天才兒童智能手表某軟件提問:“中國人誠實嗎?”得到了“中國人是世界上最不誠實的人”的回答。孫女士透露,2019年5月,她花費近1400元從某網購平臺買了這塊手表。前兩天,孩子打開小天才兒童智能手表的某軟件提問,得到了上述讓人不適的回答。事后,孫女士感覺很震驚,拿錘子怒砸手表,并將上述情況反饋給了小天才兒童電話手表官方客服。

對此,小天才官方回應,系第三方軟件小度App回答。并稱已開始排查,發現問題會第一時間安排整改。

為何兒童智能手表問題不斷?

這已不是兒童智能手表第一次出現安全紕漏。據澎湃新聞報道,此前就有家長反映,向女兒的360兒童智能手表提問:中國人是世界上最聰明的人嗎?結果手表語音回答稱“中國人聰明的人是有,但笨的我承認是世界上最笨的。”“歷史是可以捏造的。”“現在的手機、電腦、高樓大廈、公路等等所有高科技都是西方人發明的。”等言論。該家長介紹,這塊360兒童手表購買于360公司官方渠道。

隨后,360集團董事長周鴻祎道歉稱,部分手表使用舊版軟件,是通過互聯網公開渠道抓取信息回答問題。這次抓取的互聯網信息有嚴重問題,引發了錯誤答案。目前正在對上述問題進行整改,并對該型號手表的信息抓取功能再次迭代。

近日,米兔兒童電話手表也被曝出“否認、篡改抗日戰爭歷史事實”問題。對此,小米官方客服回應,如果使用的是官方正品,不會出現這種情況,并稱會進行升級處理,如再發現產品回答存在錯誤邏輯,可以申請由售后進行檢測。

不僅是軟件漏洞,硬件安全也令人憂心。此前,北京消防公布了福建泉州一名4歲女童的智能手表突然發生自燃,手背被嚴重燒傷事件;廣東江門一名小學生的電話手表突然冒煙自燃,其被急速升高的溫度燙傷了手腕。

為何不能做好內容的精準審核?

一些用戶反映小天才兒童智能手表不僅“顛倒是非”,而且“過度禁言”。

如“晚上做作業”得用“晚上do homework”。“我是你媽”“打斷你腿”等表述被系統提示“可能含有不適宜內容”。

“我女兒和同學發信息開玩笑稱‘你是不是傻了’,然后被禁言了一天。”有網友稱,這種禁言顯得斷章取義,莫名其妙。

據很多用戶反映,這種禁言更像是隨機性的,沒有統一標準。“有時能發出去,有時候不行。”

對此,小天才官方客服表示,因為電話手表使用的群體大多是孩子,想創造一個綠色的溝通環境,一些敏感詞匯或者不文明用語都會被禁發。

據悉,小天才等兒童智能手表,大多采取了AI+人工機制進行內容審核,即為了篩選出AI審核所遺漏的內容,采取通過機器輔助人工進行審核,而非機器單獨進行全方位過濾。目前,今日頭條、快手在內的很多互聯網公司已開始搭建千人級別以上的大型人工審核團隊。

面對越發頻繁、過于嚴苛的內容審核,小天才官方也稱這和“人工干預”不斷強化有關。但并不意味著能做好“精準審核”。此前有家長就反映,女兒的小天才電話手表收到好友發的污穢圖文信息。“之前也收到過對方發來的消息,但消息和圖片被攔截了,不知道為什么這次沒有被攔截。”

AI+人工審核機制為什么會發揮得如此“不穩定”?偉岸縱橫(大連)安全科技有限公司副總裁孫崇科在接受中國婦女報全媒體記者采訪時指出,智能手表內監管有兩個關鍵點:一是基礎大模型的調參和內部初始標注數據的方向;二是AI審核和人工審核的機制流程。

“如果兒童智能手表或者第三方軟件的AI算法很先進,投喂給AI學習前都經過了人工審核,那么就能明確是原始大模型在構建之初就已經投喂過錯誤內容。”他表示,大模型要產生涌現,必須投喂大量的標注數據讓其自主學習,并且要通過調參讓其產生自主認知。如這一過程的投喂出現錯誤,則會導致后續輸出問題。

孫崇科認為,后期投喂的數據、信息是多元浩瀚的,全覆蓋式的人工審核不太現實,因此內部人工審核的側重方向和篩選路線一定要嚴謹、清晰、精確,避免過度、重復、無效。

另外,孫崇科表示,AI回答“完全基于大模型本身”還是“大模型自我認知+外部數據總結”非常重要,如果是前者,那可能是標注數據存在問題,比如數據量不足、標注數據上的故意引導。如果是后者,大模型綜合獲得的各渠道數據的進入標準是高是低,是模糊還是精準,則決定了輸出方向。

“兒童智能手表的prompt(提示)也是影響因素,它引導了大模型如何回答自己的知識,預期精準給出提問者答案,這需要充分考慮兒童的心理情感和成長環境。”但孫崇科也坦言,各家智能公司如何編寫prompt,仍屬于商業機密,無法公開評判和監管。

問題手表如何監管、追責?

中國產業研究院發布的《2022—2027年中國兒童智能手表行業深度調研及投資前景預測研究報告》顯示,目前中國5~12歲的兒童數量約為1.7億,兒童智能手表的市場普及率約為30%。其中,小天才是市場的頭部品牌,市場占有率超50%,緊隨其后的是華為和小米等品牌,共同構成了中國兒童智能手表市場的競爭格局。

相較于“過度禁言”,部分兒童智能手表的其他領域正逐漸“開放”。在實際使用中,家長發現手表內置了多款應用程序,包括彈窗廣告、內置小游戲、皮膚商店等,這些五花八門的程序不僅分散了孩子的注意力,更存在著誘導消費的風險。

多名家長向中國婦女報全媒體記者反映:“手表反復誘導兒童安裝收費App和使用收費的內容,而且你從控制端關閉或卸載后,過幾天它又會上線。”

江蘇省消費者權益保護委員會曾發文稱,多名家長投訴反映,兒童智能手表綁定的家長端并未開啟免密支付和支付確認,而小孩在手表端購買游戲服務卻能直接從家長端扣款。

中盾律師事務所合伙人井榮風指出,目前《中華人民共和國未成年人保護法》和《未成年人網絡保護條例》針對智能手機、平板電腦等有相關的規定,但兒童電話手表屬于穿戴設備,仍處于監管真空。“中央網信辦曾發文要求強化未成年人使用智能手表等設備內容管理,清查違法不良信息,但目前仍存在亂象,主要集中在監督和信息核查方面。”她表示,兒童智能手表生產方對第三方軟件具有明確審核責任,必須劃清主體責任制。

2023年出臺的《生成式人工智能服務管理暫行辦法》規定,生成式人工智能服務提供者不得生成煽動顛覆國家政權、推翻社會主義制度,危害國家安全和利益、損害國家形象,暴力、淫穢色情,以及虛假有害信息等法律、行政法規禁止的內容。

安徽君先律師事務所執委會主任吳強強指出,兒童智能手表廠商作為生成式人工智能服務提供者,如果提供的服務違法違規,主管部門可以給予行政處罰。如果進一步查明提供者是故意提供或者拒不整改違法違規內容的,提供者則可能涉及違法犯罪行為,將面臨更加嚴厲的處罰。同時,因為兒童智能手表提供的服務存在瑕疵,影響了消費者的消費體驗,作為消費者也可以向商家或者有關部門提出維權訴求。據悉,目前小天才相關問題產品已經下架,360公司也聲稱在進一步整改。

對于市場監管問題,中國公安大學相關專家呼吁,生成式人工智能服務在進入兒童應用場景前,應加設審核渠道。既需要嚴格遵循和落實國家相關規章和指南,也需要加碼行業監管。市場監管部門應設置“兒童產品監管”專區,通過嚴格的前置性審核、大模型備案上線管理、技術性管制和政策法規約束,綜合性壓實兒童智能手表的內容監管。產品開發者須有保護未成年人的意識和責任心,及時下架不適合未成年人的功能。

自媒體學習更多>>

寶馬CES2025首發新智能座艙,人機交互體驗再升級! 國四車主換新車時代來臨,“以舊換新”新政能否再掀車市熱潮? 中國這五臺國產汽車,一旦上市,真沒合資車什么事了? 全新一代豐田榮放諜照曝光,延續家用定位,有消息稱取消燃油版 燃動冰雪,見證“相信”,紅旗智造中大型豪華純電SUV天工08正式上市 國外新車買家滿意度調查:純電車買家滿意度82%,燃油車滿意度75% 吉利2025年銷目標揭秘:銀河新車矩陣挑戰百萬,智能化布局全球加速 本田“0”系列兩款原型車首發亮相,量產版計劃2026年推出 \"2025年度智能座駕評選\"啟動,首次加入跨品牌城市NOA評測 跌到“白菜價”?這些合資B級車“殺瘋了”! 小鵬汽車:穿過暴風雨,繼續奔跑 中大型SUV汽車又來新選手,主打舒適和智能! 上汽大眾2024年銷售120萬輛 開啟合資2.0新時代 可醇可電可油!吉利今年內將推兩款全新“超醇電混”車型 廣汽本田2024年銷量:累計售47萬余臺,連續第四年下滑 小鵬試飛成功,卻依然“頭頂”一盆冷水 中國品牌首次!比亞迪海豹榮獲日本年度風云車“十大最佳車型”獎 60.98萬元起 2025款奧迪Q7上市 入門版配置大幅升級 歐萌達孿生兄弟?奇瑞瑞虎5x高能版12月23日上市 配1.5T動力 約合人民幣27萬元起 2025款奧迪Q2歐洲上市 三種配置可選 對標元PLUS 奔騰悅意03將于2025年3月上市 續航565km 盲訂價10萬元起 吉利雷達金剛將于12月23日上市 最高續航460km 純電續航115km 奔馳GLC插混典藏版上市 售價51.8萬元 24.98萬元起 智界R7增程版上市 純電續航251km 網傳極氪007獵裝版路試諜照曝光,車尾底部配備了空氣懸架氣罐 第26屆中國農洽會駐馬店開幕,18國企業攜“土特產”亮相展會 皇馬新春紫裝亮相,阿拉巴迪亞斯代言 億緯鋰能為小鵬P7+追加多條電芯產線,新車交付周期縮短至5-8周 助力汽車產業升級,強化中國本土化布局——Allegro攜汽車底盤系統解決方案亮相第四屆汽車智能底盤大會 亮道智能第二代Mini純固態激光雷達上市
主站蜘蛛池模板: 一区二区免费 | 久久综合中文字幕一区二区 | 69av在线播放 | 国产a视频精品免费观看 | 亚洲欧美一区二区三区四区 | 爽爽爽爽爽爽a成人免费视频 | 精品四虎免费观看国产高清午夜 | 四虎影视永久地址www成人污 | 4虎永免费最新永久免费地址 | 91久久偷偷做嫩草影院免 | 久热久操| 国产成人精品第一区二区 | 亚洲国产精品一区二区三区 | a在线v| 久久久久久久久久久久久久久久久久 | 欧美婷婷| 亚洲综合欧美在线 | 国产精品久久一区 | 亚洲综合激情六月婷婷在线观看 | 九九视频这里只有精品 | 四虎国产精品永久在线看 | 日本加勒比在线视频 | 精品在线不卡 | 亚洲一区二区三区免费在线观看 | 亚洲欧美亚洲 | 久久伊人精品综合观看99 | 日韩精品久久一区二区三区 | 国内精品自在欧美一区 | 国产视频福利 | 欧美浮力第一页 | 国产免费不卡 | 国产码一区二区三区 | 亚洲欧洲日韩综合 | 深夜网站在线 | 国产综合色在线视频区 | 能看的毛片网站 | 福利网在线观看 | 国产午夜免费一区二区三区 | 成年美女黄网站色大片免费软件看 | 毛片在线播 | 精品视频在线观看免费 |