人权活动家表示，Tiktok正在重复Facebook在缅甸的错误，因为未能预测错误信息和暴力威胁的激增

士兵在军事疲劳和他的突击步枪上几乎没有脱颖而出。他把杂志拿到相机上，展示了它里面的现场循环。 “你今天要展示吗？你可以和平展示。“他说。 “如果你穿过线并扔石头或使用弹弓......这些是真正的子弹。我们会拍你的。“

在3月3日发布到Tiktok的视频，在五天后在下来才有15,000多次。它是缅甸的数百个视频士兵之一，自2月1日的军事扣押权力以来发布到该应用程序。一些剪辑是直截了当的宣传，用于建立对安全部队的同情并证明他们的暴行证明。有些是错误的信息，用于分开和混淆反政变抗议者。其他人是彻头彻尾的威胁：士兵和警察挥舞着枪和弹药，警告示威者他们准备使用它们。

自3月初以来，在董事会副驾驶和仇恨言论飙升的报道和对平台上的暴力威胁的威胁下的报告之后，他的许多视频都被删除了。活动家们说，虽然Tiktok现在开始清洁房屋，但其实施自己的社区标准的方法已经缓慢且不一致，并且这种类型的新视频将每天发布到平台。在与世界其他地区的一份声明中，公司承认，它没有采取积极主动的方法阻止潜在燃烧内容的传播。

这些视频的扩散来自该国的一个极其不稳定的时间：截至3月17日，在缅甸在抗议政变时遭到缅甸杀害了大约150人，以回应政变，警察和士兵在街上的许多射门。

“这个平台不是采取行动[或]负责，”缅甸ICT的执行董事Htaike Htaike Aung表示，发展组织（Mido），仰光的互联网自由集团。 “这将迟早会导致乔福亚危机中的Facebook [失败]如何，通过举办所有这些危险的叙述。”

活动家和专家告诉世界其他地区，Tiktok的失败对任何人熟悉Facebook在2010年代缅甸的汉语清洗活动的人令人乐意熟悉。缅甸军队成员，被称为Tatmadaw，在平台上传播错误信息，讨论，仇恨，并最终，暴力。 2018年，联合国人权专家表示，在Facebook上取消选中的仇恨言论为全国的洛藏少数群体造成了种族灭绝。当时，该公司讲太少的缅甸主持人，它未能建立理解，包括民间社会，使其对该国运营的恶意演员的语言和策略致盲。

现在，缅甸数字权利社区的成员表示，蒂克托托克，一个价值500亿美元的社交媒体平台，重复了这些错误。这些人将其余的世界成为一个没有进入民间社会的“黑洞”，也没有聘请足够的缅甸专家，以使其能够实施自己的社区标准，领先于误导和仇恨的完全可预测的浪涌演讲。该公司仅在12月开始招募新的缅甸语言主持人，在平台已经成为军事联系宣传的肥沃地区。

该公司的失败突出了社交媒体平台的基本问题，其增长往往超越了他们的能力 - 以及投资适当的抚养内容。 Facebook在缅甸和其他地方的错误表明，仇恨言论和错误信息通常被编码并植根于他们发生的地方，只能通过深入了解这一环境的人被正确监督和监督。

这些公司的模型也偏见了他们试图找到可扩展的技术解决方案，以便复杂的社会问题，这些解决方案通常不可能与当地知识和人为判断感。大多数人都在赌博，他们可以开发算法，以做人类主持人的细致效果，但对于视频，音频和即兴的平台，这种算法可能是几年 - 假设甚至可能开发它们。与此同时，平台陷入危机的恶性循环，公众哗然和最终行动。昨天它是Facebook - 今天，Tiktok。

“这是这些平台内的一个系统问题，”昆士兰理工大学数字媒体研究中心首席研究员Ariadna Matamoros-Fernández说。 “我认为我们需要意识到，因为明天它将是另一个平台，另一个是另一个平台。”

U Htein Min Khine是58，住在梅奈蒂拉市中心。当他参加了1988年的1988年对前任军事军官的起义时，他是在统治缅甸 - 然后是缅甸的大学，从1962年到2011年开始。这一运动，其中数十万人参加，被一个暴力的军队达到了抑制。现在是88代和平与公开社会的代表，一个民主团体，他记得如何，后退，军方将激动人送入抗议活动，以创造混乱和混乱，并帮助他们证明他们的残酷镇压。 “现在，”他说，“他们努力做到这一点。”

在过去十年中，军方已成功调整了社交媒体的这些策略。它的代理和支持者，包括超法主义者和激进的佛教团体，现在使用Facebook和其他平台鞭打对罗兴亚州的仇恨，为TATMADAW的种族灭绝创造封面。在该国2020年的大选领先 - 通过现任国家民主联盟轻松赢得了国家顾问昂山苏·京峰 - 类似网络试图通过指控欺诈，为2月政变奠定基础的诚信。

Tiktok于2019年和2020年探讨了缅甸的普及，经过大型电信网络开始与其服务捆绑。就像Facebook一样几年前与Facebook这样的“免费基础”模型完成了，用户现在可以免费访问Tiktok。

活动家开始看到在最后一次选举之前在最后一次选举之前看到军事联系的内容，当Facebook开始更积极寻求虚假信息网络。

在政变之后，Facebook将所有缅甸军事联系的页面禁止在其平台上，进一步将Tatmadaw推向Tiktok，因为它试图扰乱抗议活动。 “他们正在瞄准年轻一代，”凯闻说。 “[他们想要]打破年轻人的思想，让他们不参加演示。”

Khine表示，已经发布过Tiktok的视频，其中人们假装成为民间不服从的成员，试图劝阻公民往街头。

“我注意到的帖子是”抗议是非常危险的，你可以随时死亡，“和”请不要出去，我们没有武器，所以如果我们面对武装部队，唯一的方式是[死亡]，“ “Htein Min Khine说。 “他们假装他们是我们之一。”

Tiktok上的许多视频都只是宣传：警察和士兵通过试图强调他们面临的艰苦运动来寻求支持和同情。视频来自个别账户，而不是来自官方渠道，使其难以判断他们是否协调或自发。有些账户已经传播了传闻，即“5,000克YAT抗议者” - 支付的吉语者 - 在示威者之间传播，李某·曼努尔人权活动家的苏·查斯（Suu Chit）的恐惧可以传播和划分抗议运动。

尽管如此，一些信息更加公开交战：士兵们挥动枪支和警告抗议者。这些视频的原声往往具有军事音乐或抗议吟唱，其中这些词语被改变为威胁着暴力的示威者。

“我记得的帖子主要是”我们不关心你的公民。我们是士兵，所以我们有责任破解你们所有人，“和'如果你在街上出来[抗议]，我们会[杀了你]，”苏··克特说。

Tiktok的社区指导方针禁止显示枪支以及煽动或偏见的错误信息，与诱导恐慌的紧急情况有关，误导社区成员关于选举或其他公民进程的恐慌，以及攻击特定保护群体或包括的阴谋内容对行动的暴力呼吁，或否认发生了暴力或悲惨事件。“

活动家和分析师表示，一些使用种族主义术语的帖子含有外国力量和穆斯林被操纵抗议者的暗示，这是一种令人震惊的叙事危机的令人震惊的回声。危险，仰光的一个政治分析师表示，仰光被要求保持匿名的恐惧报复，是军事人员本身将相信错误信息，并刺激暴力行为。

“部队正在导致认为这是一个国家事业;他们并没有因为没有为公众镇压。分析师表示，这是一个国家的事业，他们必须防范。

具有讽刺意味的是，Facebook在缅甸的失败之一是仰光繁荣的数字版生态系统。在武器化社交媒体的前线超过半年以上，缅甸科技界已经开发了用于处理大型技术的工具和策略。他们已成为使用Facebook的界面来识别和造型的界面和仇恨言论的专家，通常比公司本身更有效地更有效。 Facebook本身已经投资了这一生态系统。该公司在缅甸估计强调，一个尺寸适合的恐怖中心，内容适度的方法根本没有在仇恨讲话大量编码和与该国独特的背景下联系起来的地方：在罗兴亚危机的高度，Facebook臭名昭着的讲缅甸的主持人。

在2020年，Facebook试验了一个新系统，用于识别和删除有问题内容。它扩大了当地的工作人员，并在缅甸的非政府组织 - 非政府组织和事实检查 - 一个前所未有的授权，以确定仇恨言论和与选举相关的错误信息。该战略吸引了活动家的合格赞誉。

相比之下，Tiktok尚未与本地组织建立链接。 “他们甚至没有达到数字权利社区，”Htaike说。 “我们不知道他们是谁，他们正在做什么，甚至他们根本正在做任何事情。”

世界其他地区联系了Tiktok，澄清它在审长团队中有多少缅甸扬声器，如何加强在缅甸的社区标准的执行，以及它如何与民间社会进行联系。通过其公共关系机构在新加坡，该公司拒绝提供具体细节。

在一份声明中，承认其方法是反应性而不是预测性：“当我们确定了缅甸的迅速升级的情况时，我们迅速扩大了我们的专用资源，并进一步加强了消除违规内容的努力。我们积极禁止我们在规模上识别促进危险内容的众多帐户和设备。此外，我们还与当地合作伙伴和民法团体密切合作，识别和解决新趋势，并采取适当和及时行动。我们有全球事实检查合作伙伴积极地工作，以验证和删除不准确或虚假信息。“

根据两个人介绍了Tiktok招聘过程，拜托，泰国特州的母公司正在积极致力于招聘缅甸语的“QAS” - 7020年12月底，在缅甸选举后一个多月份。基于马来西亚的那些角色涉及与外部承包商协调，以在缅甸实施社区标准。截至3月15日，Tiktok是在新加坡，马来西亚和泰国的三个缅甸演讲员工的广告，包括“社区内容管理专家”，另一方，新加坡的“计划经理，信任和安全”，列表为此，“缅甸人和/或粤语的流利是一个加号。”

研究人员和活动家对莫斯马尔军队如何武装Tiktok作出反应。

“你会认为将有更多的比赛书，”在华盛顿特区的民主和技术中心的自由表达项目主任主任“在像缅甸这样的国家，......有很多东西最近通过社交媒体活动推动的种族灭绝的历史，应该是任何公司名单的顶部，如果他们知道他们的服务有很大的人口。这是应该优先考虑的事情，因为指标是如此明显。“

这对社会媒体平台的更广泛的问题说道，Llansó说。这些公司一般试图使其结构保持精益，通过技术缩放而不是添加人员。他们外包在他们可以的人体温度，可以作为服务，而不是投资员工。

“让每个人都在内部监督一切都会是理想的，但如果你试图变得现实，我认为这不太可能在不久的将来，”北方州助理研究助理教授努施蒂··朱利俄亥俄州大学研究了东南亚的信息障碍和社交媒体。 “但这是资源。”

对于大型社交媒体公司而言，由于他们出现的危机是有效的，而不是积极地将资源放在适当的地方，这使得财务意义。 “这将花费较少的钱，”贾齐说。 “在缅甸发生的事情，让我们找到一个可以调查这一点的人。”

在私人谈话中，这些企业更喜欢记者和研究人员进行记录的简报，他们经常讨论自动化适度系统的潜力，以完全替换人类运营商。但是，虽然解析文本和静止图像的技术迅速发展，但视频和音频内容更复杂。专家表示，蒂科特和其他人需要在人类调节和建立与民间社会的建立联系中的大量投资 - 无论是对立即的问题，还要确保他们的AI系统没有编码他们作为外人的同一盲点。

“显然有明显的种族主义，有明显的仇恨，但大多数时间，[犯罪者]使用编码语言。昆士兰理工大学的Matamoros-Fernández说，这种编码语言发展。说。一种算法需要做的事情不仅仅是了解HashTags，明显冒犯或威胁术语;它必须能够动态适应。例如，在缅甸，例如，它需要区分非暴力民主运动的颂歌和那些节目的共同选择版本，其歌词呼叫杀戮，这两者都出现在平台上。

“有模因，有声音，有GIF，贴纸。它可以编码仇恨，所有这些视觉材料。但是这些算法并没有真正微调，以识别仇恨和幽默或其他类型的膜法，“Matamoros-Fernández说。 “这种效率和规模的想法而没有真正了解上下文和语言，它不起作用。 ......自动化不是唯一的方法。“

缅甸活动家表示，如果需要避免在几年前发生同样的Facebook的暴力行为，Tiktok现在必须采取行动。

“我们不相信Tiktok是一个负责任的事业，”曼德勒的活动家Suu Chit说。 “我们对[Tiktok]无话可说。如果人们想要使用它，我会鼓励他们只是为了娱乐，只因为他们不是负责任的公司。“

我们的每周通讯为您首次访问来自世界各地的最新故事，趋势发现和分析技术。立即注册。