CEO hối hận vì nhận kiểm duyệt cho Facebook

Wendy Gonzalez, CEO công ty gia công phần mềm Sama, nói đã "nhận bài học" khi để nhân viên bị tổn thương tinh thần do kiểm duyệt nội dung Facebook.

"Bạn hỏi tôi có hối hận hay không. Vâng, tôi có thể trả lời. Nếu có cơ hội làm lại, tôi chắc chắn không nhận lời tham gia. Đó là bài học cho chúng tôi", CEO Gonzalez nói trong buổi phỏng vấn với BBC. Sama đang bị nhân viên đưa ra tòa vì những ảnh hưởng xấu khi kiểm duyệt nội dung độc hại trên Facebook.

Sama là công ty gia công phần mềm có trụ sở tại Mỹ nhưng hoạt động chủ yếu ở Kenya. Họ là một trong những bên ký hợp đồng lọc nội dung trên Facebook từ 2019.

Bà Wendy Gonzalez, CEO công ty gia công phần mềm Sama. Ảnh: BBC

Theo Gonzalez, việc kiểm duyệt chưa bao giờ chiếm hơn 4% khối lượng công việc của công ty, nhưng để lại hậu quả nặng nề cho những người tham gia. Sau các tổn thương được ghi nhận, bà cho biết đây là "bài học kinh nghiệm" cho bản thân và công ty. Từ đầu năm, Sama cũng thay đổi chiến lược khi không nhận bất cứ hợp đồng kiểm duyệt nội dung có hại nào từ các mạng xã hội, hay loại hình mới hơn là dán nhãn dữ liệu cho AI, đặc biệt là AI "hỗ trợ vũ khí hủy diệt hàng loạt hoặc giám sát".

Meta, công ty mẹ Facebook, chưa đưa ra bình luận.

Sự thừa nhận của Gonzalez được đưa ra sau khi công ty Sama đối mặt một số vụ kiện từ chính nhân viên - những người tiếp xúc với nội dung phản cảm và đau buồn như video tự tử, tự làm hại bản thân, các tài liệu bạo lực, cổ xúy tự sát và lạm dụng.

Năm ngoái, Daniel Motaung, người được Sama thuê làm ở bộ phận kiểm duyệt nội dung Facebook năm 2019, đệ đơn kiện lên tòa án Kenya, cáo buộc công ty để ông phải xem nội dung phản cảm, gây tổn thương tại nơi làm việc mà không trang bị trước cho ông kiến thức cũng như hỗ trợ tâm lý xã hội thích hợp. Bên cạnh đó, ông cho rằng mình bị đuổi việc vô lý khi cố gắng tập hợp đồng nghiệp có hoàn cảnh giống mình để yêu cầu điều kiện làm việc tốt hơn. Hồi tháng 2, tòa án Kenya cho biết vụ kiện sẽ được đưa ra xét xử trong năm, nhưng chưa ấn định thời gian.

Bà Gonzalez từ chối trả lời về vụ kiện, nhưng cho rằng kiểm duyệt nội dung trên các nền tảng mạng xã hội hay gắn nhãn huấn luyện AI là "một lĩnh vực mới hoàn toàn cần được nghiên cứu và có nguồn lực".

Về vụ kiện, Meta phản đối việc bị đưa vào danh sách bị đơn vì cho rằng Sama mới là chủ của Motaung. Hãng cũng khẳng định không thể bị đưa ra xét xử tại tòa án Kenya vì họ không đăng ký hoạt động ở đây.

Meta đang gặp rắc rối với Sama. Ảnh: Netzpolitik

Hệ thống kiểm duyệt Facebook hoạt động dựa vào con người và thuật toán AI. Đối với việc kiểm soát nội dung bằng con người, công ty không trực tiếp thực hiện mà thuê đối tác hợp đồng bên thứ ba. Dù vậy, thời gian qua, nhiều người phản ánh công việc này là "cơn ác mộng" đối với bản thân họ.

"Tôi nhớ trải nghiệm đầu tiên của mình là chứng kiến một vụ ngộ sát được phát trực tiếp. Tôi bật dậy và hét lên, quên mất mình đang ở đâu và mình là ai. Đầu tôi suốt ngày đó trở nên trống rỗng", theo bức thư được gửi lên tòa án Kenya được công bố giữa năm nay.

Frank Mugisha, 33 tuổi ở Uganda, cũng kể về trải nghiệm kinh hoàng của mình khi kiểm duyệt nội dung Facebook. "Tôi thấy những thứ bạn chưa bao giờ thấy. Nhưng tôi không bao giờ muốn bạn thấy chúng", Mugisha nói.

Theo Guardian, gần đây một số nhân viên thuộc các nhà thầu của Facebook cho biết họ bị sa thải vô cớ hoặc với các lý do khó hiểu. Những người này nghi ngờ đây là nỗ lực của công ty đứng sau nhằm ngăn chặn các cáo buộc về trả lương thấp và thiếu hỗ trợ sức khỏe tâm thần.