算法竞赛下Meta与TikTok有害内容增多举报人向BBC透露TikTok凭借极具吸引力的短视频推荐算法颠覆社交媒体行业后引发了算法竞赛。Meta和TikTok在对自家算法进行内部研究后发现愤怒情绪能推动用户参与度于是做出了一些决策导致用户信息流中出现了更多有害内容。Meta的一名工程师称高层管理人员曾要求他在用户信息流中允许更多“擦边”有害内容以与TikTok竞争。而一名TikTok员工则展示了公司内部的用户投诉仪表盘显示员工曾被指示优先处理涉及政治人物的多起案件而忽视了一系列涉及儿童的有害帖子报告。用户痛点青少年受有害内容影响严重青少年们告诉BBC用户用来表示不想看到有问题内容的系统不起作用他们在主流社交媒体平台上仍然会被推荐暴力和仇恨性内容。一名19岁的青少年卡勒姆称他从14岁起就“被算法极端化”算法向他展示的内容让他愤怒导致他产生了种族主义和厌女观点。英国反恐警察专家也表示近几个月来他们发现反犹、种族主义、暴力和极右翼帖子变得“常态化”人们对现实世界的暴力变得更加麻木并且不怕表达自己的观点。竞争格局Meta追赶TikTok安全保障存短板2020年Instagram推出Reels以应对TikTok的竞争算法竞赛愈演愈烈。Meta资深研究员马特·莫蒂尔表示Meta推出Instagram Reels时缺乏足够的安全保障措施。内部研究显示Reels上的评论中欺凌、骚扰、仇恨言论、暴力或煽动性内容的比例明显高于Instagram其他板块。另一位Meta前高级员工称公司为发展Reels投入了700名员工但安全团队申请两名处理儿童保护的专业人员和10名协助选举公正性的人员时却遭到拒绝。Meta的一名前工程师也表示为了与TikTok竞争公司允许更多“擦边”有害内容出现在平台上。生态影响信任危机与监管压力增大这些举报内容引发了公众对Meta和TikTok的信任危机。TikTok信任与安全团队的一名成员尼克建议使用TikTok的孩子的家长“卸载它让孩子尽可能远离这个应用”。而Meta也面临着用户对其平台安全性的质疑。同时这也可能会引发监管部门的关注和压力。社交媒体平台上的有害内容问题一直是监管的重点此次举报可能会促使监管部门加强对Meta和TikTok的监管力度。未来挑战与商业化看点平衡安全与商业利益对于Meta和TikTok来说未来需要在保障用户安全和实现商业利益之间找到平衡。一方面它们需要加强内容审核和安全保障措施减少有害内容的传播另一方面它们也需要继续优化算法提高用户参与度和平台的商业价值。在商业化方面Meta和TikTok都依赖广告收入。如果不能解决有害内容问题可能会影响广告主的投放意愿从而对其商业收入造成影响。因此如何在保障用户安全的前提下实现商业利益的最大化将是它们未来面临的重要挑战。编辑观点Meta和TikTok在算法竞赛中为追求用户参与度而放任有害内容引发诸多问题。未来需平衡安全与商业利益否则将面临信任危机和监管重压影响商业前景。