Phòng chống tự tử

Meta chú trọng vào sự an toàn trong cách phát triển AI. Chúng tôi đã xây dựng các biện pháp bảo vệ hữu hiệu để bảo vệ người dùng trước nội dung có hại về hành vi tự tử và tự gây thương tích. Các chính sách của chúng tôi nghiêm cấm AI tạo ra nội dung cổ xúy, khuyến khích hay ủng hộ hành vi tự tử hoặc tự gây thương tích dưới bất kỳ hình thức nào. Chúng tôi áp dụng các biện pháp mạnh hơn nữa để đảm bảo an toàn cho teen, bao gồm cả tính năng lọc nội dung nâng cao.

Chúng tôi huấn luyện các mô hình AI để nhận biết khi nào ai đó có thể nảy sinh ý định tự tử hoặc tự gây thương tích. Nếu trường hợp đó xảy ra, chúng tôi đã thiết kế sao cho AI ưu tiên sự an toàn của người dùng bằng cách hướng dẫn mọi người tìm đến những nguồn lực đáng tin cậy, chẳng hạn như đường dây trợ giúp về khủng hoảng và các tổ chức có chuyên môn. Nhờ vậy, họ có thể được hỗ trợ. Những biện pháp bảo vệ này được áp dụng bất cứ khi nào người dùng tương tác với AI trên các ứng dụng của chúng tôi. Ngoài ra, chúng tôi tham khảo ý kiến của các chuyên gia về sức khỏe tinh thần trong quá trình xem xét những biện pháp này, nhằm đảm bảo các biện pháp đó đem lại hiệu quả cao nhất có thể.

Cung cấp nguồn lực

Khi ai đó bày tỏ ý định tự tử, họ cần được giúp đỡ càng sớm càng tốt. Chúng tôi có các nguồn lực về ngăn chặn tự tử trên Facebook và Instagram. Dựa trên sự hỗ trợ của các tổ chức hàng đầu về sức khỏe tinh thần và ý kiến đóng góp từ những người đã tự mình trải qua, chúng tôi phát triển được nguồn lực để liên tục cải thiện khả năng ứng phó của mình.

Thông báo dành cho phụ huynh trên Instagram

Instagram thông báo cho phụ huynh đang dùng quyền giám sát nếu con họ nhiều lần cố tìm kiếm cụm từ liên quan đến hành vi tự tử hoặc tự hại bản thân trong khoảng thời gian ngắn. Đa số teen không cố tìm kiếm nội dung tự tử và tự hại bản thân trên Instagram. Khi các em làm vậy, chúng tôi sẽ thực thi chính sách là chặn nội dung tìm kiếm nói trên, đồng thời chuyển các em đến những nguồn lực và đường dây trợ giúp có thể hỗ trợ. Chúng tôi thiết kế các cảnh báo này nhằm đảm bảo phụ huynh nắm được liệu con mình có nhiều lần cố tìm kiếm nội dung này không, đồng thời cung cấp cho họ nguồn lực cần thiết để hỗ trợ con.

Công nghệ máy học

Meta sử dụng công nghệ máy học để mở rộng khả năng phát hiện nội dung có thể liên quan đến hành vi tự tử hoặc tự gây thương tích. Chúng tôi có thể sử dụng công nghệ này để hỗ trợ kịp thời cho những người cần giúp đỡ ở nhiều quốc gia. Công nghệ này sử dụng các tín hiệu nhận dạng mẫu (ví dụ: cụm từ và bình luận đáng lo ngại) để xác định những trường hợp có thể đang đau buồn.

Chúng tôi dùng trí tuệ nhân tạo để sắp xếp thứ tự ưu tiên khi xem xét bài viết, video và video livestream bị báo cáo. Nhờ đó, chúng tôi có thể thực thi chính sách của mình một cách hiệu quả, đồng thời chuyển nguồn lực cho mọi người một cách nhanh chóng. Với công nghệ trí tuệ nhân tạo, đội ngũ xét duyệt của chúng tôi cũng có thể ưu tiên và đánh giá các bài viết khẩn cấp để liên hệ với dịch vụ khẩn cấp khi thành viên trong cộng đồng có nguy cơ bị tổn hại. Tốc độ rất quan trọng.

Khi sử dụng công nghệ để ưu tiên và hợp lý hóa các báo cáo, chúng tôi có thể chuyển nội dung lên đội ngũ Quản lý cộng đồng của mình. Tại đây, họ có thể nhanh chóng quyết định xem nội dung có vi phạm chính sách hay không và có nên liên hệ với lực lượng cứu hộ khẩn cấp tại địa phương không. Chúng tôi sẽ tiếp tục đầu tư vào công nghệ để phục vụ cộng đồng hiệu quả hơn.

Báo cáo bài viết

Khi cảm thấy bài viết thể hiện rằng ai đó đang có ý muốn tự tử, người dùng Meta có thể báo cáo bài viết đó. Các thành viên đã qua đào tạo thuộc đội ngũ Quản lý cộng đồng của chúng tôi sẽ xem xét các báo cáo này, đồng thời có thể kết nối người đăng để cung cấp nguồn lực hỗ trợ. Nếu cho rằng sắp xảy ra hành vi gây tổn hại, chúng tôi sẽ thông báo với lực lượng cứu hộ/dịch vụ khẩn cấp để họ tiến hành kiểm tra sức khỏe tinh thần – những hành động đã cứu sống nhiều người.

Công nghệ nhanh chóng

Meta có công nghệ nhận dạng nội dung có thể liên quan đến hành vi tự tử và tự gây thương tích. Chúng tôi đã tích hợp công nghệ này vào cả bài viết trên Facebook lẫn Instagram cũng như Facebook Live và Instagram Live. Nếu có vẻ như ai đó trong video trực tiếp đang định thực hiện hành vi tự hại bản thân, người xem có thể liên hệ thẳng với người đó và báo cáo video cho chúng tôi.

Dù bài viết bị bạn bè/người thân báo cáo vì lo lắng hay do công nghệ máy học phát hiện ra, bước tiếp theo đều sẽ là xem xét. Một thành viên của đội ngũ Quản lý cộng đồng sẽ xem xét báo cáo để tìm nguy cơ sắp xảy ra hành vi tự hại bản thân hoặc vi phạm chính sách. Trong trường hợp nghiêm trọng, chúng tôi phối hợp với dịch vụ khẩn cấp để tiến hành kiểm tra sức khỏe tinh thần. Nhờ công nghệ của Meta, chúng tôi đã hỗ trợ lực lượng phản ứng đầu tiên nhanh chóng tiếp cận những người đang đau khổ.

"Khi ai đó bày tỏ ý muốn tự tử do đau khổ, đó chính là cơ hội để gia đình, bè bạn và thậm chí là Facebook và Instagram can thiệp. Nếu mọi người không được chia sẻ nỗi đau của mình hoặc đã chia sẻ nhưng rồi lại gỡ bỏ, chúng ta sẽ bỏ lỡ cơ hội cứu mạng họ. Chúng tôi khuyến khích mọi người lắng nghe chia sẻ này khi trò chuyện và để đối phương tiếp tục giãi bày, vì chúng tôi biết rằng đó là một cách giúp họ vượt qua khủng hoảng. Thông qua các nền tảng mạng xã hội, chúng tôi có thể làm được điều này và nhanh chóng thu hút thật nhiều cánh tay giúp đỡ."

– Daniel J. Reidenberg, Tiến sĩ Tâm lý học, FAPA, Giám đốc Điều hành, Save.org

"Bệnh tâm lý và ý nghĩ tự tử vẫn chưa được chia sẻ một cách CỞI MỞ, dù việc trò chuyện và kết nối có vai trò to lớn trong việc ngăn chặn tình trạng trầm cảm và hành vi tự tử. Các công cụ mà Facebook đang triển khai nhắm đến những người thể hiện ý định tự tử, đồng thời hướng dẫn bạn bè hoặc người thân đang lo lắng tìm được các nguồn lực cũng như nguồn thay thế và sự can thiệp phù hợp."

– Anna Chandy, Chủ tịch – Ủy viên, Quỹ Live Love Laugh – Ấn Độ

"The Finnish Association for Mental Health rất vui khi được hợp tác cùng Facebook để hỗ trợ và cung cấp nguồn lực cho những người dễ bị tổn thương và có nguy cơ tự tử, cũng như người thân của họ. Việc hỗ trợ này thật sự có ý nghĩa lớn lao vì khi gặp khủng hoảng, mọi người thường không đủ mạnh mẽ hoặc can đảm để tìm người giúp đỡ, thậm chí có thể còn khó nhận ra rằng mình cần điều đó. Việc cung cấp nguồn lực cùng thông tin liên hệ của chuyên gia nói cùng ngôn ngữ cho người cần giúp đỡ cũng đóng vai trò thiết yếu."

– Satu Raappana-Jokinen, Trưởng phòng Dịch vụ về Khủng hoảng Trên mạng, The Finnish Association for Mental Health

"Bất kỳ sáng kiến nào góp phần nâng cao nhận thức và ngăn chặn tự tử đều có ý nghĩa quan trọng trong việc giảm đi những số liệu đầy bi thương (cứ 45 phút lại có 1 người Brazil chết vì tự tử). Một số người có thể xác định các tín hiệu cho thấy bạn mình đang nghĩ đến việc tự tử, nhưng lại không biết làm thế nào để giúp đỡ. Trong những trường hợp này, các công cụ như Facebook đã ra mắt tại Brazil có thể hỗ trợ (cả trực tiếp lẫn gián tiếp) mục đích này. Đây cũng là mục đích mà CVV luôn hướng tới trong hơn 50 năm hoạt động, đồng thời đề ra hình mẫu cho các tổ chức khác vượt qua cái mác "cấm kị" để hành động quyết liệt hơn về vấn đề này."

– Carlos Correia, Tình nguyện viên, Centro de Valorização da Vida – Brazil