Christiane C. không lo nghĩ gì khi cô con gái 10 tuổi và một người bạn đăng tải đoạn video chúng đang chơi ở bể bơi.
"Video đó trong sáng, nó không phải là vấn đề lớn", Christiane, cư dân ngoại ô Rio de Janeiro, nói với New York Times.
Vài ngày sau, con gái cô chia sẻ tin tức thú vị: Video có hàng nghìn lượt xem. Chẳng bao lâu, nó đã đạt mốc 400.000 - con số đáng kinh ngạc cho video về một đứa trẻ trong bộ đồ tắm hai mảnh với bạn của cô bé.
"Tôi đã xem video một lần nữa và tôi đã rất sợ số lượt xem", Christiane nói. Cô có lý do để sợ hãi.
Sân chơi nguy hiểm trên YouTube
Một nhóm nghiên cứu phát hiện hệ thống đề xuất tự động của YouTube đã bắt đầu hiển thị video này cho những người dùng từng xem video về trẻ em mặc trang phục ít vải. Hệ thống đề xuất là thứ điều khiển phần lớn trong hàng tỷ lượt xem trên YouTube bằng cách gợi ý những gì người dùng nên xem tiếp theo.
Các nhà nghiên cứu cho biết YouTube quản lý video từ các kho lưu trữ. Trong nhiều trường hợp, thuật toán của nó giới thiệu người dùng đến các video như trên sau khi họ xem nội dung có chủ đề tình dục.
Kết quả là một danh mục các video mà các chuyên gia nói rằng tình dục hóa trẻ em.
"Chính thuật toán của YouTube đã kết nối các kênh này. Đó là điều đáng sợ", Jonas Kaiser, một trong ba nhà nghiên cứu tại Trung tâm Internet và Xã hội Berkman Klein của Đại học Harvard, cho biết.
.jpg) |
| "Tôi sợ hãi bởi số lượt xem", Christiane C., một phụ nữ người Brazil, nói về đoạn video mà con gái cô đăng tải trên YouTube. Ảnh: New York Times. |
Video của con gái Christiane được quảng cáo bởi các hệ thống YouTube vài tháng sau khi công ty được cảnh báo rằng nó có vấn đề về ấu dâm. Vào tháng 2, Wired và các hãng tin khác cho biết những kẻ săn mồi đang sử dụng phần bình luận của các video trên YouTube với trẻ em để hướng dẫn những kẻ ấu dâm khác.
YouTube đã vô hiệu hóa bình luận trên nhiều video có trẻ em sau khi nhìn nhận vấn đề là "rất đáng lo ngại".
Nhưng hệ thống đề xuất vẫn tồn tại đã tập hợp những video như vậy vào một kho lưu trữ mới có thể được xem dễ dàng và đẩy chúng ra cho lượng lớn khán giả.
YouTube không bao giờ đặt mục tiêu phục vụ người dùng có xu hướng ấu dâm, nhưng hệ thống tự động lại đưa ra những đề xuất mà Kaiser nói là "hợp ý nhưng ghê tởm".
Người dùng không cần phải tìm kiếm video của trẻ em để xem chúng. Nền tảng có thể dẫn họ đến đó thông qua tiến trình đề xuất.
Vì vậy, một người dùng xem các video khiêu dâm có thể được đề xuất các video về những phụ nữ trẻ hơn, sau đó là những phụ nữ tạo dáng khiêu khích trong quần áo trẻ em. Cuối cùng, một số người dùng có thể được xem video về các bé gái khoảng 5 hoặc 6 tuổi mặc đồ tắm, thay quần áo hoặc xoạc chân.
Jennifer O’Connor, Giám đốc Sản phẩm của YouTube, cho biết công ty đã cam kết xóa bỏ việc khai thác trẻ em trên nền tảng của mình và đã làm việc không ngừng nghỉ kể từ tháng 2 để cải thiện việc thực thi.
"Bảo vệ trẻ em đứng đầu danh sách của chúng tôi", cô nói.
Nhưng YouTube đã không đưa ra một thay đổi mà các nhà nghiên cứu kiến nghị: tắt hệ thống đề xuất của họ trên video của trẻ em, mặc dù nền tảng có thể tự động xác định các video đó.
Công ty cho biết vì các đề xuất là yếu tố điều hướng lưu lượng truy cập lớn nhất, việc loại bỏ chúng sẽ làm tổn thương "những người sáng tạo" sống dựa vào những lượt click. YouTube nói sẽ giới hạn các đề xuất trên các video mà họ cho là khiến trẻ em gặp nguy hiểm.
Lượng người xem lớn
YouTube mô tả hệ thống đề xuất của mình là "trí thông minh nhân tạo không ngừng học hỏi những đề xuất nào sẽ khiến người dùng tiếp tục theo dõi". Công ty cho biết những đề xuất này thúc đẩy 70% lượt xem nhưng không tiết lộ chi tiết về cách hệ thống đưa ra lựa chọn của mình.
Một số nghiên cứu đã tìm thấy cái gọi là "hiệu ứng hang thỏ". Theo đó, nền tảng này dẫn người xem đến các video hoặc chủ đề cực đoan hơn, được cho là giữ chân họ.
Ví dụ, khi xem một vài video về trang điểm, người dùng có thể được đề xuất một video trang điểm được lan truyền. Bạn xem clip về xe đạp và YouTube có thể gợi ý các vụ tai nạn đua xe đạp gây sốc.
 |
| Trụ sở chính của YouTube tại San Bruno, California. Ảnh: AFP/Getty. |
Khi tìm hiểu về cách YouTube điều hướng các video ở Brazil, nhóm nghiên cứu của Kaiser nhận thấy YouTube có thể giới thiệu dòng video gần như vô tận về trẻ nhỏ, chủ yếu từ Mỹ Latin và Đông Âu.
Số lượt xem bất thường, đôi khi lên tới hàng triệu, chỉ ra rằng hệ thống đã tìm thấy khán giả cho các video và đang gắn kết người xem.
Theo các nhà tâm lý học, bằng cách hiển thị các video về trẻ em bên cạnh nội dung tình dục thông thường, cũng như hiển thị số lượt xem cao của các video, YouTube có nguy cơ làm xói mòn điều cấm kỵ đối với ấu dâm.
Các nhà nghiên cứu cho biết hầu hết người xem chỉ dừng lại ở việc xem các hình ảnh tình dục. Tuy nhiên, một số video trên YouTube bao gồm các liên kết đến các tài khoản mạng xã hội của trẻ em.
"Nhiều người tích cực tham gia trò chuyện với trẻ em và rất giỏi trong việc dụ dỗ chúng đăng những bức ảnh khêu gợi hơn hoặc tham gia vào hoạt động tình dục và quay video", tiến sĩ Marcus Rogers, nhà tâm lý học tại Đại học Purdue và vừa hoàn thành nghiên cứu về nội dung khiêu dâm trẻ em, cho biết.
YouTube không cho phép trẻ em dưới 13 tuổi mở các kênh. Công ty nói rằng họ thực thi chính sách chặt chẽ.
Theo Jenny Coleman, Giám đốc của Stop It Now, một tổ chức chống lại nạn bóc lột tình dục của trẻ em, đối với các bậc cha mẹ, không có giải pháp dễ dàng.
"Ngay cả những gia đình cẩn thận nhất cũng có thể bị cuốn vào thứ gì đó có hại hoặc phạm tội", cô nói.
Một tổ chức địa phương đã liên lạc với Christiane và đề nghị cô chia sẻ kinh nghiệm của mình.
Cô đang vật lộn để giải quyết những gì đã xảy ra. Cô băn khoăn không biết nói gì với chồng. Cô bày tỏ sự bối rối trước hệ thống vận hành của YouTube và cô lo lắng làm thế nào để giữ con gái mình an toàn.
"Điều duy nhất tôi có thể làm là cấm con bé đăng bất cứ thứ gì trên YouTube", cô nói.
.svg){kind=icon}
