介绍日本资讯大型中文门户网站
公众号

TikTok能自动检测约会、危险舞蹈——青少年保护机制介绍

贝妮·2018-12-06 08:39:30·社会
摘要:TikTok能自动检测约会、危险舞蹈——青少年保护机制介绍

日本运营短视频SNS「TikTok」(抖音国际版)的Bytedance,于11月30日,召开了“第一届TikTok Japan安全合作伙伴评审会”。这是为发表TikTok安全保障中心的开设,以及同青少年健全教育相关的NPO团体联合制定的“安全合作伙伴制度”的开始,而召开的纪念会。


TikTok能自动检测约会、危险舞蹈——青少年保护机制介绍

TikTok是可以发布配合音乐对口型,或是舞蹈等的短视频SNS。自2016年开始服务,到2018年7月为止的全球活跃用户达到2亿人。在日本国内,以青少年为中心,用户急速扩增。因人气很高,因此社会上产生了对安全性质疑的声音。

Bytedance 执行董事公共政策本部长山口琢也发言称:“打造让谁都能感到安全舒适的APP环境,是TikTok的最优先课题。”并且他还主张,尤其是对于青少年的安全更应优先着手应对。

通过机器检测风险、真人审核来对应

TikTok能自动检测约会、危险舞蹈——青少年保护机制介绍

山口介绍了为TikTok APP准备的安全相关机制。包括可以通报不合适发表内容的机制,可以标记或者拦截用户的功能,可以设置隐私的非公开用户功能等等,都做了介绍。另外,还有1天的使用时间只能限制在2小时以内的控制机制,还设置了对于在检索框里输入了“自杀”“想死”等等这类关键词的用户,显示热线电话号码防止自杀的机制。

此外,山口还接触了“风险警告”机制,对于使用技术保护观者的机能作了如下介绍:“危险动作或导致伤害可能性的行动,必须要专家指导的动画,不仅会通过机器检测,还会由真人审核。对于判断为有潜在危险性的动画,会用红底白字显示‘危险动作,请勿模仿’的警告”。

机器检测还不仅如此,对于儿童性侵犯等等,解析了一系列不合适行为的用户模板,因此可以对同样行为的用户进行把握。而且还具备会确认用户是否专业,根据行为程度可以进行阻止或者进行通报的系统。

另外,关于约会风险的对策也是自动化系统。“如果向某人发送3次信息,并且未收到3次回复的情况下,会自动拦截。”(山口说)。此外,TikTok安全保障中心还开设了日语版,也发表了关于安全性情报发布的开始声明。

APP上公开安全使用编

同一天,TikTok Japan 发表设立了安全合作伙伴制度。为提高安全性,他们携手与青少年教育相关的NPO/NGO、9团体,声称要听取现场意见。

TikTok能自动检测约会、危险舞蹈——青少年保护机制介绍

登台演讲的,对孩子使用网络非常了解的御茶水女子大学的坂元章教授说道:“青少年的大脑构造的问题,使得他们容易关注眼前的刺激和兴奋,会有冲动发布的倾向。但是,动画相对静止画面来讲,包含了更多的信息,具有不易改革的特征因此也难以辨别。”对于动画发布指出风险。另外,对于TikTok 的处理方式也寄予了期待:“为公司的发展倾尽全力,却不得不回过头去考虑安全性问题的公司也很多,但是很意外TikTok这家公司相反是在一开始就考虑到这个问题的。可能会成为今后的楷模。”

TikTok能自动检测约会、危险舞蹈——青少年保护机制介绍

TikTok同一天公开了可以在APP上学习安全使用方法的“TikTok 安全使用编”。可以学习禁止摄影场所,以及必须通报的内容等。配合正确率可获取称号,因此成为了让年轻用户愉快地掌握应用能力的设置。

*文章为作者独立观点,不代表日本通立场

本文由 贝妮 授权 日本通 发表,并经日本通编辑。转载此文章须经作者同意,并请附上出处(日本通)及本页链接。

参与讨论

登录后参与讨论

热门文章