点击上方“图灵人工智能”，选择“星标”公众号
您想知道的人工智能干货，第一时间送达
如何平衡信息收集和隐私保护是一直需要探讨的问题。
编译｜吴莹 吴美仪
来源｜TED演讲
头图来源｜视觉中国
“算法推荐里不存在任何强迫性质的规则，作品能让人产生共鸣，它自然会走红。”TikTok首席执行官周受资在接受专访时说道。
在出席美国国会听证会后不久，周受资接受了TED创始人克里斯·安德森（Chris Anderson）的公开专访，在这场访谈中，周受资除了再次强调TikTok会把安全问题摆在发展的首要位置之外，还分享了他对短视频上瘾问题的独特见解。周受资认为，他们并不愿意用户沉迷于短视频，恰恰相反，为了解决沉迷短视频的问题，他们做了限制时长，软件提醒等大量的工作。“作为一家企业，我们并不想让用户对我们的产品上瘾，更希望达到一种平衡状态，对用户和企业来说都健康的状态。”周受资说。
精彩观点如下：
1.我们并没有用20个具体问题来询问用户是否喜欢推送的内容，而是将这种观察有机地融入用户的实际使用中，当用户在观看视频、点赞、分享和评论时，每一个动作都是在为他们的兴趣投票。
2.通过算法推荐将互联网上的人连接起来，并为他们提供一个发现世界的窗口，让创业者、普通人拥有发声的机会，这就是平台的力量。
3.算法推荐里不存在任何强迫性质的规则，作品能让人产生共鸣，它自然会走红。用户生成内容的魅力就在于优质内容的爆火不是被设计出来的，而是真正让观众产生了共鸣，获得了他们的喜欢与推荐。
4.在社交媒体行业，对每个公司来说，如何平衡信息收集和隐私保护是一直需要探讨的问题，这也需要行业和监管机构一起努力。
5.作为一家企业，我们并不想让用户对我们的产品上瘾，更希望达到一种平衡状态，对用户和企业来说都是健康的状态。
以下为访谈全文（有删改）：
解密TikTok算法
安德森：只要你还活着，或多或少都会接触TikTok，作为目前这款产品的负责人，我们对你的故事很感兴趣，你是怎么加入TikTok的？
周受资：10年前，我遇到了两位正在开发一款产品的工程师。这款产品的理念是向陌生人推荐内容。这让人觉得不可思议，毕竟在10年前，最流行的社交媒体推荐方式，是好友转发和分享。这两位工程师另辟蹊径，他们认为，与其给你推荐认识的人，不如给你推荐喜欢的内容。他们研究的产品就是早期的TikTok。5年前，随着移动手机和4G技术的普及、短视频的制作和传播有了技术和用户基础，TikTok应运而生。2021年，我非常荣幸地获得了管理TikTok的机会。
安德森：TikTok的算法，仅仅是通过观察人们的行为，就能发现他们喜欢什么不喜欢什么吗？你们是通过用户在视频前停留的时间长短来判断他喜不喜欢吗？
周受资：在机器学习的维度，推荐算法背后的逻辑其实是数学。例如，如果你喜欢视频一、二、三和四，我喜欢视频一、二、三和五，他喜欢视频一、二、三和六。因为我们同时喜欢视频一、二、三，所以视频四、五、六也会推送给我们几个人，因为算法判断我们可能有相同的喜好，所以把其他人看了但我没看的视频也推送给我了，算法认为这会是我感兴趣的内容。这个算法过程每天实时地在拥有数十亿人规模的TikTok上不断重复。在这样一种运算规则下，算法很快能学会如何分析人们传达出来的兴趣信号（Interest Signal），并快速向其推送他可能感兴趣的内容。
安德森：从你的分析来看，这种算法更像是一种协同过滤（Collaborative Filtering）的模式。背后的逻辑是当我们不知道这个人喜欢什么时，可以通过观察他是否与其他人有兴趣重叠的部分，如果有的话，可以把和他兴趣相同的人喜欢的内容推送给他，比如有一个用户喜欢某一首歌，这首歌刚好出现在另一个人的歌单里，那么可以把这个歌单里的其他歌曲也推送给这个人，他如果正好喜欢里面的歌曲，就会感受到惊喜，是这样吗？
周受资：这是基于用户兴趣信号的模式识别（Pattern Recognition）。实际上我们并没有用20个具体问题来询问用户是否喜欢推送的内容，而是将这种观察有机地融入用户的实际使用中，当用户在观看视频、点赞、分享和评论时，每一个动作都是在为他们的兴趣投票。
让创业者、普通人拥有发声的机会
安德森：除了这种识别兴趣的算法，TikTok还做了哪些其他的动作？
周受资：我最近在华盛顿遇到了一些创作者，吃晚饭的时候，其中一个坐在我旁边的创作者，他叫塞缪尔（Samuel）。他在亚利桑那州凤凰城经营一家墨西哥卷饼（Taco）餐厅。他告诉我在TikTok上发布内容是他的第一次冒险行动，之前从未做过这样的事情。通过视频创作，他第一次对自己所经营的餐厅业务产生了浓厚的兴趣，他光是经营这家餐厅，同时在TikTok上发布视频，去年就赚了一百万美元。我不止一次听到这样的故事，通过算法推荐将互联网上的人连接起来，并为他们提供一个发现世界的窗口，让创业者、普通人拥有发声的机会，我觉得这就是平台的力量。
安德森：听说你们最开始搭建TikTok的时候，为了说服更多的创作者来到这个平台，你们给出了更有诱惑的条件，比如可以得到更多的粉丝、点赞和转发，你们是怎么做到的呢，这些数据是真实的还是AI做的？
周受资：在TikTok之前，市场上已经存在很多社交媒体了。但在那些平台上，涨粉其实已经很困难了，尤其对于新创作者来说，没有曝光度就没有涨粉的机会。但TikTok完全是另外一种推荐内容的方式，我们不是按照粉丝多少来决定推送谁的视频，而是用算法来推送用户感兴趣的内容，这就给了那些真正有才华的人一个被发现的机会。特别是粉丝不多的新创作者，只要有好的内容，就会得到推荐，帮助他们涨粉。我觉得这是吸引那些创作者来TikTok的根本原因，也是给平台带来用户增长的关键所在。
安德森：那你们最开始的时候，会人为给这些新创作者增加粉丝量，以此来吸引其他人入驻平台吗？
周受资：你说的这种方法是行不通的，算法一直做的是识别用户的兴趣。如果创作的内容得不到用户的喜欢，即使给他再多的曝光也不会有效。算法推荐里不存在任何强迫性质的规则，作品能让人产生共鸣，它自然会走红。用户生成内容的魅力就在于优质内容的爆火不是被设计出来的，而是真正让观众产生了共鸣，获得了他们的喜欢与推荐。
安德森：也正是因为你们的算法是按照用户兴趣推荐内容，所以可以最大程度避免其他社交媒体中经常出现的粉丝混战的情况是吗？
周受资：我们的用户可能更关注内容，我们会提供更多样化的内容，你说的那些问题也的确是全行业面临的难题，尤其会遇到别有用心的人发布不良内容。针对这一问题，我们的解决方法是制定了非常详细的社区守则，清晰明确地规定了什么能做什么不能做，这份规则公开透明，即使是TikTok的高管也没有任何特权可以做出规定之外的判定。基于这份社区守则，我们建立了一支有着上万人规模的审核队伍，其中包括人工和机器人，及时地识别并移除违规内容。
安德森：都有哪些规则，可以展开说一下吗？
周受资：我们刚刚对社区守则做了更新，使它更易读易懂，完整的守则在我们网站上就可以看到。守则的规定有很多，比如禁止上传含色情、暴力的内容，尤其是与儿童性虐待相关，这是我们严厉打击的对象。还有，如果用户未满18岁，将会受到严格的限制，比如，我们不允许16岁以下的用户走红，也不允许他们使用私信功能。如果用户未满18岁，也不允许使用直播功能。当然，我们也给了父母一整套工具来管理他们的孩子使用TikTok的限制。
安德森：你们怎么知道用户的年龄？
周受资：我们主要依赖用户注册登录时提供的年龄信息。除此之外，我们还有一些工具用来浏览用户公开发表的资料，比如当用户发布视频时，我们会匹配他们视频定位的年龄层。其实我们还有更多方式来获取用户的年龄信息，但同时也需要考虑到隐私的问题，我们可以通过扫描用户的面部信息，大大提高年龄判断的准确性，但这肯定会涉及用户隐私安全的保护问题。在社交媒体行业，对每个公司来说，如何平衡信息收集和隐私保护是一直需要探讨的问题，这也需要行业和监管机构一起努力。
安德森：毋庸置疑的是，TikTok为成千上万的素人提供了内容创作的平台，并给他们带来了观众，可以给我们分享一下那些让你印象深刻的素人创作者的故事吗？
周受资：比如老师这个职业，有一位来自阿肯色州的英语老师，名叫克劳丁（Claudine），她就利用我们平台来接触世界各地的学生。还有一位化学老师“化学金”（Chemical Kim），也是通过这个平台去接触比线下课堂更广泛的学生群体。他们两位老师都非常受欢迎。还有一个值得关注的点是，我们发现在TikTok上，理工科（STEM，科学、技术、工程和数学）内容在全球有累计超过1160亿次的播放量，这个数据十分庞大，以至于我们已经开始在美国测试创建一个专门做STEM内容的订阅栏目。我已经使用一段时间了，学到了不少新知识。
并不想让用户对产品上瘾
安德森：接下来我们要探讨一个非常重要的问题——上瘾。人的大脑容易受到刺激，几百万年来一直保持着容易上瘾的天性。事实证明，互联网非常擅长激活人们的上瘾天性。特别是TikTok的产品，比起其他互联网产品，短视频更容易让人沉迷其中。从公司的角度来看，你们肯定希望人们尽可能多地花时间刷视频，这样可以为你们公司带来更多的广告收入，也能为你们的创作者带来更多的流量。那你觉得其中的风险是什么？
周受资：我并不赞同这个观点。作为一家公司，我们的目标不是让用户对我们的产品上瘾。事实恰恰相反，我们为了解决用户沉迷短视频的问题，做了大量的工作。比如当发现用户在我们的平台上花费了太多时间，我们会主动给用户发送视频，督促其下线，尤其是在深夜，这类提示会更早出现。我们设置了很多工具，如果用户未满18岁，我们默认会设置60分钟的时间限制，超出时间会强制下线。
我们还给了家长设计了很多工具，比如家长手机中的TikTok软件可与孩子手机中的软件绑定，让父母可以为孩子设置TikTok的使用时长。不仅仅是孩子，每一个用户都应该思考如何与手机屏幕保持健康的使用关系。作为一家企业，我们并不想让用户对我们的产品上瘾，更希望达到一种平衡状态，对用户和企业来说都是健康的状态。
安德森：青少年每次使用TikTok的最佳时长是多少，你有什么建议吗？
周受资：我的建议是每次使用不超过60分钟。这个时长不是我们拍脑袋想出来的，是特地去波士顿儿童医院的数字健康实验室请教来的，60分钟是专家给我们的建议。我还想补充一点，我鼓励家长多与孩子沟通软件的使用情况，帮助他们养成良好的上网习惯，因为我们生活在数字时代，无法避免与数字内容进行互动，所以更应该早点培养孩子健康的上网习惯，防止他们沉迷于网络世界。
安德森：你说的这些的确是很好的功能，但你们有没有某些时刻会抵挡不住广告收入的诱惑，从而放松这种防沉迷的监管呢？
周受资：即使从商业角度考虑，我们也不希望用户养成一些不健康的习惯，因为他们如果有健康问题，肯定会在某个时刻毫不犹豫抛弃我们，这是不可持续的。从企业长远的发展角度来看，我们真正想要的是一种健康的、可持续发展的状态。
安德森：有一份报告指出抖音在孩子们使用时长的限制上会更严格，这是真的吗？
周受资：这是一种误解。每个国家对青少年的保护政策都有细微的差别，不同年龄段的管理也不一样，所以我们对青少年的保护会根据不同国家的实际情况进行调整。TikTok在美国针对13岁以下儿童的保护同样非常严格，推送给他们的每一条内容都会由第三方儿童安全专家审核。我们禁止13岁以下的孩子发布视频，也不允许他们私信聊天，我们禁用了很多功能。我也看过那份报告，我认为它没有进行公正的比较。
安德森：你们现在已经有数百万内容创作者，他们之间为了争夺用户的注意力肯定会存在竞争，在激烈的竞争下，会出现通过擦边、造谣等方式博人眼球的情况吗？针对这些问题，你们有什么对策？
周受资：这些问题我们在社区守则中都有明确的规定。如果用户未达到规定的年龄，一些与“性”相关的内容都会被剔除，不予推荐。再次强调，我们想要建立一个安全的平台。在国会听证会上，我坚定地向用户作出了四个承诺。第一个就是我们极其重视安全，尤其是青少年的安全，我们会一直把安全问题摆在首要位置。如果无法为用户提供安全的使用环境，那就违背了公司“激发创造力”和“带来快乐”的使命，这是我无法容忍的。
安德森：但猎奇一直是人们获得关注的主要方式，之前也发生过，某些平台会诱导孩子在校园里恶作剧，进行一些破坏活动，以此获得关注，你们该如何应对这种问题？
周受资：首先，平台明令禁止一切危险挑战。我们会主动投入资源来识别那些危险挑战，并及时清除这些内容。现在如果你在我们平台上搜索一些危险挑战，我们会引导其进入一个安全资源页面，我们还与一些创作者合作开展了宣传活动，名为“停下来，思考，决定，然后行动”，我们制作了视频，向人们解释这些事情是危险的，请不要这样做。我们也在平台上积极推荐这些视频。
安德森：你们有多少员工专门负责内容审核？还是这些工作多是由AI来完成？
周受资：在爱尔兰我们有一个专门的内容审核团队，大概上万人的规模。大部分内容审核可以交给机器来做，它们也做得相当不错，但机器目前来说还达不到完美的状态，必须补充人工审核，这一块是不能节省的成本。不过未来我挺期待AI在内容审核方面的应用，我相信它们能做得更好。
版权声明
转自中国企业家杂志， 版权属于原作者，仅用于学术分享
文章精选：
- 图灵和冯·诺依曼的遗产：生命计算机的架构
- 开源语言大模型演进史：高质量基础模型竞赛
- Open AI首席科学家：ChatGPT可能已经有了意识，AI将万世不朽
- 大语言模型真能“理解”语言吗？
- 李航：关于大模型的思考及研究热点
- OpenAI首席科学家：通向无监督学习之路
- Nature 封面：AI 改变科学的多种方式，无论是好是坏
- 智能计算领域10个重大科学问题
- 中国发表第一篇计算机顶会的人都怎么样了？中国ACL、AAAI、CVPR第一人是谁
- AI智能超越人类终破解！李飞飞高徒新作破圈，5万个合成数据碾压人类示例，备咖啡动作超丝滑
