SAN FRANCISCO — Ngày thứ Ba, người đứng đầu bộ phận tin cậy và an toàn của Discord cho biết nền tảng trò chuyện phổ biến này đang thay đổi và làm rõ các chính sách bảo vệ trẻ em của mình, bao gồm những chính sách liên quan đến hẹn hò giữa thiếu niên và vật liệu lạm dụng tình dục trẻ em tạo bởi AI. Thông báo này đến sau cuộc điều tra của NBC News vào tháng trước về vấn đề an toàn trẻ em trên nền tảng này.
John Redgrave, Phó Chủ tịch phụ trách tin cậy và an toàn tại Discord, cho biết Discord đang mở rộng các chính sách của mình để đối phó với trí thông minh nhân tạo sinh học có thể tạo ra nội dung giả mạo và sự tình dục hóa trẻ em, cụ thể là cấm hình ảnh lạm dụng tình dục trẻ em do AI tạo ra và thậm chí là sự tình dục hóa trẻ em trong các cuộc trò chuyện văn bản. Tháng trước, The Washington Post đã báo cáo rằng hình ảnh tình dục trẻ em do AI tạo ra đã lan rộng trên internet trong những tháng gần đây.
Discord đã trở thành trung tâm cho các cộng đồng tập trung vào việc tạo hình ảnh bằng AI sinh động, và nó đã tổ chức một số tích hợp cho phép người dùng tạo ra chúng. Các hình ảnh mang tính tình dục thường xuyên được tạo ra trên các máy chủ này.
Một người phát ngôn của Discord cho biết việc cập nhật chính sách đã được thực hiện từ quý cuối của năm 2021, là một phần của nỗ lực bao gồm việc tư vấn với các chuyên gia về an toàn trẻ em và không liên quan đến bất kỳ báo cáo gần đây nào.
Xem thêm:
Alphabet Mở Rộng Sản Phẩm AI Chatbot Bard tại Châu Âu và Brazil
OpenAI đang bị điều tra về rủi ro thông tin sai lệch từ ChatGPT
Công ty cho biết trong một bài đăng blog thông báo về những thay đổi rằng chính sách vật liệu lạm dụng tình dục trẻ em đã được cập nhật sẽ bao gồm “bất kỳ văn bản hoặc nội dung truyền thông nào tình dục hóa trẻ em, bao gồm cả hình vẽ, photorealistic, và vật liệu lạm dụng tình dục trẻ em photorealistic do AI tạo ra. Mục tiêu của việc cập nhật này là đảm bảo rằng việc tình dục hóa trẻ em trong bất kỳ ngữ cảnh nào không được các tác nhân xấu làm bình thường.”
Redgrave cũng cho biết công ty đang thực thi các thay đổi và làm rõ chính sách để cấm rõ ràng việc hẹn hò giữa thiếu niên, mà các chuyên gia trước đây đã cho NBC News biết là một cơ hội đáng kể cho người lớn muốn lợi dụng hoặc tán tỉnh trẻ em.
SAN FRANCISCO — Người đứng đầu bộ phận tin cậy và an toàn của Discord cho biết vào thứ Ba rằng nền tảng trò chuyện nổi tiếng này đang thay đổi và làm rõ các chính sách bảo vệ trẻ em của mình, bao gồm những chính sách xoay quanh hẹn hò giữa thiếu niên và nội dung lạm dụng tình dục trẻ em do AI tạo, thông báo này đến sau cuộc điều tra của NBC News vào tháng trước về an toàn trẻ em trên nền tảng.
John Redgrave, Phó chủ tịch về tin cậy và an toàn của Discord, nói rằng Discord đang mở rộng các chính sách của mình để đối phó với trí thông minh nhân tạo sinh động có thể tạo ra nội dung giả mạo và việc tình dục hóa trẻ em, cụ thể là cấm biểu hiện của lạm dụng tình dục trẻ em do AI tạo và ngay cả việc tình dục hóa trẻ em trong các cuộc trò chuyện văn bản. The Washington Post đã báo cáo vào tháng trước rằng hình ảnh lạm dụng tình dục trẻ em do AI tạo đã tăng lên trên internet trong những tháng gần đây.
Discord đã trở thành một trung tâm cho các cộng đồng tập trung vào việc tạo hình ảnh bằng AI sinh động, và nó đã tổ chức một số tích hợp cho phép người dùng tạo ra chúng. Các hình ảnh mang tính tình dục thường xuyên được tạo ra trên các máy chủ này.
Một người phát ngôn của Discord cho biết, việc cập nhật chính sách đã được tiến hành từ quý cuối của năm 2021, là một phần của nỗ lực bao gồm việc tư vấn với các chuyên gia về an toàn trẻ em và không liên quan đến bất kỳ báo cáo gần đây nào.
Công ty cho biết trong một bài đăng blog thông báo về những thay đổi rằng chính sách vật liệu lạm dụng tình dục trẻ em đã được cập nhật sẽ bao gồm “bất kỳ văn bản hoặc nội dung truyền thông nào tình dục hóa trẻ em, bao gồm cả hình vẽ, photorealistic, và vật liệu lạm dụng tình dục trẻ em photorealistic do AI tạo ra. Mục tiêu của việc cập nhật này là đảm bảo rằng việc tình dục hóa trẻ em trong bất kỳ ngữ cảnh nào không được các tác nhân xấu làm bình thường.”
Redgrave cũng nói rằng công ty đang thực thi các thay đổi và làm rõ chính sách để cấm rõ ràng việc hẹn hò giữa thiếu niên, mà các chuyên gia trước đây đã nói với NBC News rằng đây là một cơ hội đáng kể cho người lớn muốn lợi dụng hoặc tán tỉnh trẻ em.
Trong bài đăng blog của mình, Discord viết: “Trong ngữ cảnh này, chúng tôi cũng tin rằng hẹn hò trực tuyến có thể dẫn đến việc tự gây nguy hiểm. Theo chính sách này, các máy chủ hẹn hò giữa thiếu niên sẽ bị cấm trên nền tảng và chúng tôi sẽ hành động chống lại những người dùng tham gia hành vi này.”
Hướng dẫn của Discord đã nói rằng công ty sẽ “loại bỏ những không gian khuyến khích hoặc tạo điều kiện cho việc hẹn hò giữa thiếu niên.” Tháng trước, một cuộc điều tra của NBC News tìm thấy hàng trăm máy chủ Discord dường như đang quảng cáo vật liệu lạm dụng trẻ em và một số máy chủ tự quảng cáo là máy chủ hẹn hò dành cho thiếu niên hoặc trẻ em yêu cầu hình ảnh khỏa thân từ trẻ vị thành niên.
Ngoài ra, NBC News đã xác định 35 trường hợp trong suốt sáu năm qua mà người lớn bị truy tố với các cáo buộc bắt cóc, tán tỉnh hoặc tấn công tình dục được cho là liên quan đến các cuộc trò chuyện trên Discord.
NBC News đã xác định thêm 165 trường hợp, bao gồm bốn vụ tội phạm được cho là mà người lớn bị truy tố vì đã truyền hoặc nhận vật liệu lạm dụng tình dục trẻ em thông qua Discord hoặc đã dùng nó để tống tiền trẻ em gửi hình ảnh tình dục của chính họ, còn được biết đến là sextortion.
Redgrave cho biết công ty cũng đang cập nhật các chính sách của mình để cấm các trường hợp mà thiếu niên lớn tuổi tán tỉnh thiếu niên nhỏ tuổi. Trong bài đăng blog, công ty nói, “Thiếu niên lớn tuổi tham gia tán tỉnh một thiếu niên nhỏ tuổi sẽ được xem xét và hành động theo Chính sách Lạm dụng Tình dục Không phù hợp với Trẻ em và Tán tỉnh.”
Là một phần của việc cập nhật chính sách, Discord thông báo việc ra mắt thêm nhiều công cụ kiểm soát của cha mẹ. Trong một công cụ Trung tâm Gia đình mới, cha mẹ và trẻ em có thể lựa chọn để cho phép cha mẹ nhận cập nhật về hoạt động của con cái của họ trên nền tảng.
Cập nhật tin tức công nghệ, thủ thuật, phần mềm tại đây
Nguồn: NBC News
Vietnamese 
English