Kiểm duyệt nội dung là khủng khiếp bởi thiết kế

Khi mọi người nói về nội dung điều độ, họ điển hình là các cuộc tranh luận tham khảo về tự do ngôn luận và kiểm duyệt. Tuy nhiên, những người thực sự làm điều độ thường có xu hướng suy nghĩ sau. Công việc của họ phần lớn là vô hình – ẩn trong các văn phòng kiểu trung tâm cuộc gọi – khi họ lọc lượng lớn nội dung do người dùng tạo trên các nền tảng truyền thông xã hội. Mặc dù người dùng không nhìn thấy họ, nhưng những nhân viên này là những nhân viên bình phong của internet, đối mặt với điều tồi tệ nhất của bản chất con người là một hình ảnh hoặc video đáng lo ngại tại một thời điểm. Nếu không có họ, các công ty truyền thông xã hội – và các mô hình kinh doanh dựa trên quảng cáo của họ – có thể sẽ không thể tồn tại như bây giờ. Tuy nhiên, ngoài việc thường xuyên tiếp xúc với nội dung khó chịu, những công việc này có xu hướng được trả lương thấp, phụ thuộc và đầy áp lực để thực hiện một cách nhanh chóng và chính xác. Nhưng liệu họ có phải tệ như vậy không?

Sarah T. Roberts, giám đốc khoa của Trung tâm Điều tra Internet Phê phán và phó giáo sư nghiên cứu giới tính, nghiên cứu thông tin và nghiên cứu lao động tại UCLA, là một chuyên gia về công việc kiểm duyệt nội dung. Cô ấy đã nói chuyện với HBR về lý do tại sao những công việc này thường khủng khiếp theo thiết kế, những mô hình thay thế có thể trông như thế nào và cách chúng tôi có thể làm cho những công việc tiền tuyến thiết yếu này trở nên tốt hơn. Cuộc phỏng vấn này đã được chỉnh sửa.

Kiểm duyệt nội dung đã trở thành một công việc từ khi nào và nó đã phát triển như thế nào?

Nó bắt đầu từ những ngày đầu của phương tiện truyền thông xã hội; ngay cả MySpace cũng nhận ra sự cần thiết của một đội ngũ nhân viên kiểm duyệt chuyên nghiệp vào những năm đầu. Vào khoảng năm 2010, các trang web như Facebook còn ở giai đoạn sơ khai, cũng như ý tưởng rằng nội dung do người dùng tạo có thể thúc đẩy sự tương tác. Nhưng khi bạn mở cổng để cho bất kỳ ai tải lên hình ảnh hoặc video, bạn sẽ nhận được hàng loạt sự tự thể hiện của con người. Một số kết quả không phù hợp, đáng lo ngại hoặc bất hợp pháp và chắc chắn có thể gây ra vấn đề cho một công ty quan tâm đến trách nhiệm pháp lý hoặc đơn giản là quản lý thương hiệu. Các công ty ban đầu sử dụng cách tiếp cận chắp vá để kiểm duyệt: Họ có người trong nhà thực hiện công việc – cả nhà thầu và nhân viên – nhưng họ cũng thuê ngoài công việc đó cho các bên thứ ba, bao gồm các công ty khác và các nền tảng kỹ thuật số, như Mechanical Turk, để đáp ứng nhu cầu .

Khi tôi đang làm bằng tiến sĩ tại Đại học Illinois, tôi đã đọc một bài báo về những người ở vùng nông thôn Iowa đang làm việc ở nơi có vẻ giống như một trung tâm cuộc gọi – nhưng thay vì trả lời các câu hỏi về dịch vụ, họ đang xem xét nội dung mà người dùng có. đăng trên phương tiện truyền thông xã hội tuân theo các nguyên tắc của một trang web nhất định. Vào thời điểm đó, tôi đã sử dụng Internet được 20 năm và tôi chưa bao giờ coi rằng một người trung gian là con người có thể đưa ra những quyết định này như một công việc, để trả công. Tôi nhận ra rằng nếu công việc của bạn là tìm kiếm và loại bỏ những thứ gây phiền nhiễu cho người khác, thì việc tiếp xúc nhiều lần với loại tài liệu đó sẽ rất khó khăn.

Ngày nay, mỗi công ty truyền thông xã hội đều có một bộ chính sách riêng, cực kỳ chi tiết, luôn thay đổi và được cải tiến, và mô hình trung tâm cuộc gọi đã thực sự thành công. Người điều hành chịu trách nhiệm thực hiện các chính sách đó làm việc trong các văn phòng quy mô lớn, thuê ngoài, công nghiệp hóa, giống như trung tâm cuộc gọi, thường ở các khu vực trên thế giới nơi lao động rẻ hơn nhiều so với ở Mỹ. Các công ty ưa chuộng loại mối quan hệ này. Nó tạo ra một kiểu phủ nhận hợp lý thuận tiện đối với một số tác hại có thể đến từ công việc.

Một ngày điển hình của người kiểm duyệt nội dung trông như thế nào?

Khi bạn là một nhà tổng hợp tiền tuyến làm việc cho một công ty ký hợp đồng bên thứ ba, bạn thường bước vào một môi trường khá vô trùng. Bạn có thể không có không gian làm việc của riêng mình, bởi vì có ba ca làm việc, vì vậy người khác sẽ ngồi vào chỗ của bạn khi bạn hết giờ. Bạn có thể đăng nhập vào một hệ thống hoặc giao diện độc quyền được phát triển bởi công ty cần kiểm duyệt và bạn bắt đầu truy cập vào các hàng đợi vật liệu.

Một phần nội dung bị gắn cờ sẽ được phân phát cho bạn – có thể có một số thông tin theo ngữ cảnh hoặc có thể có rất ít – và bạn đưa ra phán quyết về việc có nên xóa nội dung đó hay không dựa trên cách hiểu của bạn về các chính sách của công ty. Khi bạn đóng hộp, bạn nhận được một cái khác. Đây là quá trình của bạn trong suốt cả ngày, làm việc thông qua hàng đợi. Đôi khi có sự chuyên môn hóa – ví dụ, ai đó có thể làm việc cụ thể về lời nói căm thù hoặc nội dung tự hại bản thân – nhưng ngay cả những trường hợp hàng loạt mà các nhà thông thường giải quyết cũng có thể khá khủng khiếp. Chỉ cần nghĩ về những thứ không được phép trên một trang web: Đó thường là những thứ mà những người này nhìn thấy.

Những người kiểm duyệt mà bạn đã nói chuyện cảm thấy thế nào về những công việc này?

Một người phụ nữ nói với tôi rằng cô ấy đã nhìn thấy mình trong vai trò dân gian của một “kẻ ăn thịt người tội lỗi”. Ý chính của nghi lễ lịch sử này là một người nghèo về mặt tâm linh gánh lấy tội lỗi của một người đã khuất, thường bằng cách ăn một ổ bánh mì đã qua xác chết để đổi lấy tiền. Người phụ nữ cảm thấy rằng khi thực hiện kiểm duyệt nội dung, về bản chất, cô ấy đang thực hiện hành vi sai trái, sự tàn ác và bạo lực của người khác để phải trả giá; phép ẩn dụ thực sự gây được tiếng vang với tôi. Những người kiểm duyệt khác đã ví von với việc trở thành một người lao công hoặc một người thu gom rác – những người xử lý rác thải, mảnh vụn.

Đó chỉ là nội dung khiến công việc khó khăn, hay người điều hành phải đối mặt với những thách thức khác?

Ngoài việc xử lý nội dung thực tế, người kiểm duyệt có thể đang sử dụng giao diện chưa được cập nhật gần đây, vì các nguồn lực kỹ thuật hướng tới việc phát triển các sản phẩm và chức năng mới cho khách hàng. Cải thiện trải nghiệm cho người kiểm duyệt nội dung không bao giờ nằm ​​đầu danh sách việc cần làm của một công ty. Ví dụ: giao diện cũ có thể phản hồi chậm các lệnh của người kiểm duyệt, ngăn họ xem xét nội dung bị gắn cờ một cách hiệu quả như mong muốn. Điều đó có nghĩa là người lao động có thể phải xem một hình ảnh lâu hơn mức cần thiết hoặc xem tất cả các video gây khó chịu, điều này góp phần gây ra căng thẳng cho công việc.

Một thách thức khác là đánh giá người kiểm duyệt như thế nào, thường dựa trên hai chỉ số. Một là năng suất: bạn vượt qua được bao nhiêu trường hợp. Thứ hai là tính chính xác: Nếu một người giám sát xem xét các trường hợp mà bạn đã giải quyết, họ có đồng ý với các quyết định của bạn không? Vì vậy, có áp lực phải hoàn thành các vụ việc của bạn một cách nhanh chóng nhưng cũng phải làm cho chúng đúng.

Công việc này cũng được trả lương thấp, đặc biệt là so với các công việc trong lĩnh vực công nghệ khác. Tôi nghĩ rằng rất nhiều người nghĩ, “Tôi sẽ làm việc trên mạng xã hội, và đó là bước khởi đầu của sự nghiệp.” Nhưng đó là công việc cấp dưới thường bị gièm pha và gạt bỏ, và nó cực kỳ khó thực hiện về lâu dài.

Còn về tự động hóa? Phần mềm và các mô hình thuật toán có thể làm việc này không?

Khi nhu cầu kiểm duyệt nội dung ngày càng tăng, các công ty đã đầu tư vào các thuật toán học máy, xử lý ngôn ngữ tự nhiên và các công cụ tự động hóa khác. Nhưng thay vì thu hẹp số lượng người tham gia, sự thay đổi này đã thực sự mở rộng nó. Các công ty cần nhân viên chú thích các tập dữ liệu về hình ảnh hoặc các loại phương tiện khác sẽ được sử dụng để đào tạo các công cụ và con người vẫn phải kiểm tra xem các thuật toán có đưa ra quyết định chính xác hay không.

Từ lâu đã có một ý tưởng đầy khát vọng rằng chúng ta sẽ chuyển những công việc lặp đi lặp lại, rối loạn hoặc khó chịu sang máy móc. Thay vào đó, điều đã xảy ra với việc kiểm duyệt nội dung là tác phẩm này vừa bị đẩy ra khỏi tầm mắt. Tự động hóa không tự cho phép mình kiểm duyệt ngoài các trường hợp học thuộc lòng như spam hoặc nội dung đã được xác định trong cơ sở dữ liệu, bởi vì công việc có nhiều sắc thái và đòi hỏi năng lực ngôn ngữ và văn hóa. Ví dụ, một biểu tượng nào đó có ý nghĩa đặc biệt hay nó chỉ là một biểu tượng? Ai đó có thể xem Mặt trời đen, một biểu tượng của Đức Quốc xã, chỉ là một thiết kế hình học trừ khi họ quen thuộc với bối cảnh của nó, cũng như bối cảnh mà nó đang được triển khai. Máy móc không thể sánh với con người về mặt này.

Có bất kỳ lựa chọn thay thế nào khác cho hệ thống hiện tại không?

Nếu các công ty truyền thông xã hội tiếp tục sử dụng cùng một mô hình kinh doanh mà họ đã sử dụng, tôi thực sự không thấy nhu cầu về vai trò kiểm duyệt sẽ sớm biến mất. Nhưng có thể làm nhiều điều để cải thiện trải nghiệm cho người lao động: nâng cấp công nghệ, nâng cao trải nghiệm người dùng, cho phép họ kiểm soát tốt hơn những gì họ thấy và cho phép họ nói “Này, tôi cần nghỉ ngơi” mà không bị phạt. Rất nhiều công ty trả tiền dịch vụ môi cho phương pháp sau này, nhưng nhiều người điều hành đã nói với tôi rằng họ không tìm kiếm sự hỗ trợ vì điều đó có nghĩa là cho sếp của họ biết rằng họ đang gặp khó khăn với chức năng trọng tâm của công việc. Khi tôi hỏi người lao động rằng họ sẽ thay đổi điều gì, họ luôn nói “Hãy trả cho chúng tôi nhiều hơn” và “Đánh giá cao chúng tôi hơn.” Có một sự thiếu công nhận rộng rãi về những gì những cá nhân này làm thay cho phần còn lại của chúng ta.

Trong các lĩnh vực bên cạnh công nghệ, gần đây chúng tôi đã thấy công nhân đoàn kết để yêu cầu cải tiến và đó có thể là một lựa chọn cho người kiểm duyệt nếu các công ty không làm cho công việc tốt hơn. Những người này đang cung cấp một dịch vụ quan trọng cho người sử dụng lao động của họ. Nền tảng kiếm tiền bằng cách cung cấp cho nhà quảng cáo quyền truy cập vào càng nhiều người dùng càng tốt, điều này tạo ra nhu cầu kiểm duyệt nội dung như một biện pháp bảo vệ thương hiệu, bởi vì không công ty nào muốn quảng cáo của mình nổi bật bên cạnh video chặt đầu.

Một giải pháp gây tranh cãi hơn là xem xét lại cách các nền tảng truyền thông xã hội được thiết kế. Liệu chúng có thực sự là những con tàu trống rỗng để mọi người lấp đầy những hành động phản cảm, đấu tranh về chính trị, thông tin sai lệch, tuyên truyền, phân biệt chủng tộc và chế độ lệch lạc, và những thứ rác rưởi khác không? Có thực sự là một điều tốt cho hai tỷ người đang sử dụng cùng một mạng truyền thông? Không có lý do nào được xác định trước rằng các nền tảng trông giống như cách chúng làm, ngoài mong muốn về quy mô và lợi nhuận.

Có nền tảng nào đang kiểm duyệt tốt không?

Thật khó để tôi không lãng mạn hóa Internet sơ khai. Có Chúa mới biết tôi đã bị xúc phạm vì nhiều thứ và đôi khi gây gổ với mọi người – tất cả những hành vi mà chúng ta liên kết với diễn ngôn trực tuyến ngày nay. Nhưng các cộng đồng internet ban đầu đã có các mô hình quản trị mà mọi người có thể chọn tham gia hoặc không tham gia. Một số trang web là vô chính phủ, tránh các quy tắc và có cách tiếp cận “mọi thứ sẽ xảy ra”; điều quan trọng là phải nhận ra sự vắng mặt của các quy tắc như một lựa chọn quản trị có ảnh hưởng đến văn hóa của một trang web. Trên các trang web khác, có những quy tắc rất nghiêm ngặt, và nếu bạn không tuân theo chúng, bạn sẽ bị khởi động. Thông thường trong những trường hợp đó, những người làm điều độ có vai trò lãnh đạo rõ ràng và đang quản lý một loại không gian văn hóa cụ thể với quyền hạn do người sử dụng cấp cho họ. Vẫn có những trang web có mô hình tương tự.

Hãy xem xét Reddit. Trên mỗi subreddit hoặc diễn đàn chủ đề, bạn có người lãnh đạo cộng đồng – người kiểm duyệt và các quy tắc rõ ràng về những gì được chấp nhận và cách những người vi phạm sẽ bị phạt. Mỗi subreddit tự thiết lập khác nhau và người dùng có thể quyết định có tham gia hay không. Sau đó, ở cấp cao hơn, bạn có những người kiểm duyệt chuyên nghiệp giải quyết những việc như yêu cầu cung cấp thông tin từ các cơ quan thực thi pháp luật hoặc chính phủ. Loại mô hình này trái ngược hẳn với loại mô hình trong đó việc kiểm duyệt nội dung chủ yếu là vô hình và không được công nhận.

Bạn đã học được gì khác từ những người kiểm duyệt mà bạn đã nói chuyện?

Ngay bây giờ, rất nhiều trí tuệ tập thể mà những người điều hành có được từ việc đứng trên tuyến đầu của Internet đã bị mất. Không có vòng phản hồi hiệu quả nào để họ nói với nhà tuyển dụng những gì họ đang thấy, chẳng hạn như xu hướng và dấu hiệu cảnh báo. Tôi đã nói chuyện với những người điều hành có lẽ là một số người đầu tiên bên ngoài Bộ Ngoại giao Hoa Kỳ biết về một số khu vực xung đột nhất định, không có thông tin đó.

Những ý tưởng kinh doanh cũng có thể được thu thập từ những người lao động này về cách cải thiện các quy tắc trực tuyến hoặc phục vụ công chúng tốt hơn. Nhưng bởi vì người kiểm duyệt thường bị loại bỏ về mặt tổ chức, và thường là về mặt địa lý, và vì các đường dây liên lạc với lãnh đạo không tồn tại hoặc bị đứt đoạn, họ được coi là những người điều hành tự động thực thi các quy tắc hiện có – không phải là những nhân viên được đánh giá cao có kiến ​​thức để đóng góp vào hệ sinh thái lớn hơn. Điều đó đánh tôi như một cơ hội thực sự bị bỏ lỡ.