日本有高中生在回转寿司店恶作剧，舔舐酱油瓶、在茶杯或寿司上涂抹自己的口水等，并将恶作剧的影片上传至TikTok，引发了许多仿效的风潮，陆续有许多人拍摄了在回转寿司店恶作剧的影片，使日本许多人担心回转寿司的卫生问题，进而导致其母公司之股价大跌。
图片
在这其中，TikTok的角色特别引人注目，也引发了许多讨论。过去，TikTok就常常因为许多“挑战”而引发争议。包含印尼有25个儿童因为“龙之吐息”挑战吃了泡过液态氮的糖果而内脏灼伤、阿根廷12岁女童因为TikTok的“昏迷挑战”而窒息死亡、印尼18岁少年因为TikTok挑战跑去肉身档卡车而遭到辗毙。
为什么这样的现象在其他社交媒体上很少听到，但却在TikTok上常常看到？其中一个原因，在于TikTok所设计的机制。
TikTok会以耸动、吸睛内容诱人进入
FB与Twitter等社交平台，当你进入首页后，先看到的是自己追踪粉丝页或好友的最新动态。但是在TikTok，一进入页面后，首先呈现的是“为您推荐（For You）”的分页。这个分页的内容不是好友的动态，而是TikTok上最受欢迎的内容。透过这样的作法，TikTok可以让使用者优先接触到最耸动、最吸睛的内容，进而让他们黏着在平台上。而紧接着，在使用者观赏影片的内容中，TikTok的算法会判断使用者喜好怎样的内容，进而大量显示使用者可能会喜欢的内容，把使用者引入令人成瘾的“兔子洞”，让人无法自拔的沈溺在一则又一则的短影音当中。而当使用者留在平台上，就能为平台带来收益。
TikTok的“为您推荐”分页。图片来源：作者提供
比起其他社交平台的算法，TikTok的算法更强大、也更没有下限。《华尔街日报》记者团队曾在TikTok上实验性地建立100多个机器人账户，并将其中31个注册为13到15岁使用者。当其中一个账号接触并停留在毒品相关影片后，这个机器人账号接下来就看到大量关于兜售毒品、吸毒等内容。另一个账号被设定对“性”感兴趣后，就收到大量的色情影片。记者团队指出，即使机器人账户被程式设定为对多个主题感兴趣，TikTok的算法有时也会持续在单个主题上不断提供短影音以吸引当事人的注意。
若影片被获选放入“为你推荐”，就会吸引大量的关注与追踪，让拍摄者感到有成就感。因此许多TikTok使用者会努力拍摄耸动的影片，标记#foryou，希望能让影片被放入其中而增加关注；或是拍摄影片参与挑战，进而让更多人看到自己。在这样的平台环境下，TikTok自然就充斥着各种耸动的“挑战”，并引诱观看者不只是观看影片，也一起拍摄影片、参与其中，成为潮流与被关注的一员。当然，透过这个过程，使用者就大大黏着于平台上，也让平台可以获得更多收益；但若是这些挑战是危险行为，就可能对拍摄者造成人身方面的危险。
但是算法并不能确认影片的挑战是否为危险动作，只知道影片是否有热门的潜力。在这个过程中，违法、色情或可能发生意外的挑战，就这样被推送出去，进而造成社会的问题。而这些影片当然不只会在Tiktok上出现。在Tiktok“成功”之后，FB、Youtube等平台也开始进攻这块领域，并尝试推出类似的短影音服务。许多Tiktok影片就这样流窜到其他平台，继续影响其他平台的使用者。
推荐系统并非只有算法可以控制，TikTok发言人Jamie Favazza就承认，有部分的员工也可以手动将部分内容提升为热门内容，使更多使用者可以看到这些影片。Tiktok部分员工可以把内容提升为热门，是否也代表TikTok可以审核使用者的内容？
TikTok就是摆脱不了极权中国的阴影
TikTok源自于极权的中国的抖音，中国以大量审查员与相关制度控制网络上的舆论与风向，营造共产党备受中国人民支持的假象，同时也尝试利用这些审查与带风向的网络评论员、代理人，在世界各地“讲好中国故事”。TikTok是否把中国的审查制度推送到世界各地，是许多人关注的问题。
虽然TikTok母公司字节跳动声称中国地区使用的抖音与国际版TikTok是不同的管理方式，但字节跳动员工承认可以获取TikTok上的资料，美国新泽西州一名高中生在TikTok上上传一段睫毛夹影片，并谈论新疆再教育营的内容，该影片就遭到删除，并使他的账号被TikTok封禁一个月。
这其实暗示，TikTok有可能透过这些机制去介入某些国家的使用者所看到的“热门”内容，并进而对该国社会产生影响。举例来说，若TikTok透过其内部员工将特定挑战提升为热门，邀请使用者拍摄重要的基础设施，导致相关资讯外流，就可能造成国安问题。
而TikTok本身的权限控管也很有问题，有许多案例显示，TikTok很可能会回传大量资料，包括使用者手机上的资料。
面对TikTok带来的问题，印度已经以国安问题而禁用，美国有超过半数的州政府禁止在政府装置安装，也有超过20所公立大学禁止在学校装置安装。台湾政府也禁止公务手机安装TikTok。
在管理上，民主国家不像极权国家一样可以毫无底限地审查并介入民间，如何在人权与管理间找到平衡，将是一大挑战。像TikTok这样的平台滥用人性弱点以大赚注意力财，却把成本转嫁到社会，甚至可能成为极权国家影响民主国家的利器，我们不可不慎。
作者为自由软件工作者、公民记者。
