在微博，有一个神奇的团队——微博用户服务舆情组。

说他神奇，是这样一个听起来并不太出众的岗位，却常常引得一些内部员工主动申请加入。用微博用户服务舆情组的负责人张喆民的话来说：“他们会觉得这份工作更加值得。”

究其原因，原来是这份工作，在帮助普通用户解决问题的同时，还有可能为处于生命边缘的用户提供救助。

如今，当你打开微博，搜索诸如“自杀、抑郁、烧炭”等词汇时，在微博列表顶部会出现免费心理咨询的提示，点击提示还会跳转至北京心理危机研究与干预中心。此外，上面还有一句话格外暖人——“你并不孤单，我们都在。”

起源：从被动发现到主动识别

神奇的微博用户服务舆情组隶属于微博用户运营部部门。最初成立的目的是，随着微博用户越来越多，用以监测平台服务体验上的负面内容，搜集微博用户提出的建议和意见，并反馈给内部产品和策略的同事。

在此工作过程中，团队逐渐在平台上注意到许多用户的负面情绪，其中不乏有“轻生”想法的极端内容。后来，更是多次接到平台用户求助：希望平台协助联系到平台上准备“轻生”的用户。

循环往复，在多次参与救援后，很多用户因此得到了救援。但也让用户服务舆情组意识到了，这件事应该纳入整个工作当中，通过主动抓取“负面情绪以及轻生倾向”的内容，及时上报网警，为线下救助争取到更多时间。

提高准确率，不断扩展筛选的信息和手段

从一开始，团队的定位就是如何发现更多“疑似自杀”的内容。在工作之初，团队也曾遇到过两难的境况。由于用户的博文中，可能包含有“采取自杀行动”和“不会采取行动”的两类情况。

开始时，团队本能的担心看不到“要采取自杀行动”的用户；还会考虑所识别的用户，仅仅是抱怨，并不会采取自杀行动，进而在对接给网警后，给网警带来不必要的工作量。

在解决这个问题的过程中。团队采用的是不断完善筛选信息的来源，其中包括前台用户发布的博文、微博评论、超话及用户反馈等，并不断增加有“自杀倾向”的关键词。

此外，在定位关键词方面，平台还会追溯对自杀倾向、极端情绪的微博用户的其他图文进行敏感内容的分析。

如用户常在日常博文中，提到自身的抑郁、双向情感障碍，并分享自己的药物等。由于自杀对象中，多和抑郁有关，张喆民认为，这样的关键词，都可以纳入检测的范围。

截止至今，平台共添加收录关键词上百条，同时还划分了一级关键词和二级辅助关键词。

在此期间，用户反馈为团队的工作提供了极大的助力，帮助了团队及时发现轻生意向的用户。每次反馈后，团队会思考为何自己没有发现，并不断改进。如平台过往只对文字识别，后来还可以对用户发布的图片进行识别。

张喆民解释说，“很多用户并不直接发文字，而是发带有文字的图片。”为此团队在识别方式上，进一步升级，进一步扩宽了识别“轻生意向”用户的方式。

图注：救助案例

为了避免上传信息不准确，给网警带来不必要的麻烦。团队从最初只会提交单条内容给到网警，到会增加到提交用户之前的五条内容作评估，这类追溯溯源进行判断的方式，帮助了团队工作的改进。

如今，团队会对用户发布的负面内容进行分级并采取不同的反馈方式。

对于仅仅抱怨生活的负面情绪的人来说，采取只观测不上报；对有心理负面情绪升级，并拥有一些自杀想法和计划的用户，则需要额外注意；对于已经准备和已经实施自杀行为的用户，如写遗书、购买安眠药、与好友告别等极端行为，则需要及时上报网警，协助进行自杀干预。

依托大数据和人工识别结合，不断提升效率

在对内容的抓取和识别的过程中，面对微博上庞大的用户群体，单独依靠人工既不现实也不助于这项工作的开展。为此，团队很早就搭建了自身的数据模型，并不断优化。

为尽可能通过大数据筛选的方式，减少员工的工作量。模型不仅仅能从“轻生内容”中找到关键词，同时还从无关的内容识别共性。

通过这种交叉识别和排除类比的方法，进一步提高准确和效率。当人工再进行监测时，大幅度减少所看到无关内容数量。

相关的敏感内容，及时反馈给工作人员，再由工作人员进行人工的识别。但考虑到，由人工对用户的历史微博进行追溯的过程，需要10多分钟的时间，担心当用户再次发布新内容时，无法及时发现。

张喆民认为，未来也许可以将团队判断的逻辑，通过智能算法实现，用算法识别用户的发布内容。根据用户发布的内容历史，在一定的时间范围内，去识别他是否发布过相关的情况，系统识别用户下一步行动的敏感程度，并由此考虑是否上传给网警。

4分钟实现从发现到跨部门上报

目前，由于团队的定位更多在发现。识别自杀信号后，团队会转交给微博内部的二线部门，由他们将内容汇总后转交到内容安全部门，再由内容安全部门对接网警。

通过二线部门转交给内容安全部门，再上报给网警，整个问题流程最快只需要4分钟。

但在张喆民看来，还可以更快。谈及更理想的状态，他认为可以拥有一个系统或平台，团队和网警有一个直通的平台，可以将内容上传到平台，网警可以调取用户发布的内容和地址等信息，快速实现自杀干预。

数据下降背后，隐含团队的成长和努力

从2018年6月到2022 年 7 月底，微博平台已累计上报 5268 例疑似案例。但有趣的是，观察平台在 2021 年和 2022 年的信息收录和上报的数量和比例，其趋势是明显下降的。

 

 

图注：信息收录量：指的是各渠道收录自杀的信息总量；上报量是舆情组筛选后疑似自杀量。

而之所以会出现这种现象，和平台的标准越来越完善有关。最初，平台往往将带有悲观情绪或其他极端情绪的用户统一进行上报。随着网警的反馈，平台开始结合用户的历史微博进行判断。这成为数据下降的原因之一。

另一个原因，则和平台用于识别内容的数据模型不断升级有关系。比如对带有轻生相关内容的关键词识别的同事，对无关内容的关键词识别。这种方式使得内容识别朝着更聚焦更标准的方式升级。这成为导致数据条目出现下降的另一原因。

与员工一起用心为用户创造工作之外的价值

写到最后，当听到最初团队只有6人时，依旧有被震撼到。用户服务舆情组的工作内容并不局限于此，微博用户的自杀干预也仅仅是她们工作的一部分。

能在如此繁重的工作下，依旧希望申请加入，可见的是，员工对企业做这件事的认同。

值得一提的是，在用户服务舆情组中，女性员工占比较多，加之他们的共情能力较强，往往他们对用户的更敏感，感受和体验也更深。在服务过程中，过往也曾有员工感到压抑，甚至还有看完用户内容落泪的员工。

对此，由于团队隶属于用户服务运营部，时常接收到来自用户的用户反馈，公司也会为员工提供相应的培训，教他们如何化解负面情绪。

除此之外，团队还鼓励和帮助员工找到自己放松的方式。比如，吃零食、接水或在园区散步。

员工对于工作的态度。在张喆民看来，是平台对得起用户信任的一种方式。带着对这份工作的期盼，他说：“希望平台也好，用户也好，可以信赖着对方，然后完成各自的工作，让良好的关系能持续地进行下去。”

启示：让商业、科技成为向善的支点

在过去的三年，疫情防控成为常态，自然灾害时有发生。但在这期间，我们依旧看到，越来越多的企业，利用自己的优势，为社会问题的解决出一份力。

越来越多的研究表明，企业用专业能力参与社会问题的解决，除了实现社会价值，同时也为企业带来了经济上的回报。比如员工忠诚度、消费者忠诚度的提升。

越来越多的相关方，喜欢有良好社会目的的企业，越来越多的企业，也从中看到新的机遇。在产品或服务、价值链或地方集群等多个维度，添加了社会价值实现考虑，实践也证明"利成于益"。

负责任经营的企业，不但受人尊敬，还是企业可持续发展、企业常青的关键所在。

作者：张威威

转载自公众号：向善实验室

免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。

文章投诉热线:156 0057 2229  投诉邮箱:29132 36@qq.com