Mỗi năm có khoảng 7 triệu trẻ em được báo cáo cho các cơ quan phúc lợi trẻ em về khả năng bị lạm dụng, nhưng làm thế nào để các nhà chức trách xác định xem trẻ em có thích Gabriel Fernandez đang gặp nguy hiểm nghiêm trọng và cần được can thiệp?
Nhiều cơ quan phúc lợi trẻ em dựa vào các đánh giá rủi ro do nhân viên được đào tạo để quản lý đường dây điện thoại nơi nghi ngờ lạm dụng được báo cáo, nhưng một số người tin rằng có thể có cách tốt hơn.
Emily Putnam-Hornstein, giám đốc của Mạng dữ liệu dành cho trẻ em và một phó giáo sư tại USC, cho biết trong loạt tài liệu mới của Neflix “Những thử nghiệm của Gabriel Fernandez”. “Thay vào đó, những gì chúng tôi đang nói là hãy đào tạo một thuật toán để xác định đứa trẻ nào trong số những đứa trẻ đó phù hợp với một hồ sơ mà ở đó rủi ro vòng cung dài sẽ đề xuất sự tham gia của hệ thống trong tương lai.”
Fernandez là một cậu bé 8 tuổi bị đánh đập và tra tấn đến chết bởi mẹ và cô ấy bạn trai , bất chấp việc giáo viên của mình và những người khác đã gọi điện liên tục cho các nhà chức trách để báo cáo nghi ngờ lạm dụng. Loạt phim sáu phần mới xem xét cuộc sống và cái chết kinh hoàng của Fernandez, nhưng nó cũng có một cái nhìn lớn hơn về vấn đề hệ thống trong hệ thống phúc lợi trẻ em mà lẽ ra có thể đóng một vai trò nào đó.
Putnam-Hornstein lập luận rằng một chiến lược để xác định hiệu quả hơn những trẻ em có nguy cơ cao nhất có thể là sử dụng các thuật toán được tạo đặc biệt sử dụng hồ sơ hành chính và khai thác dữ liệu để xác định điểm số rủi ro cho từng trẻ.
Bà nói: “Chúng tôi thực sự có khoảng 6 hoặc 7 triệu trẻ em bị cáo buộc lạm dụng hoặc bỏ rơi mỗi năm ở Hoa Kỳ và cách chúng tôi đưa ra một số quyết định sàng lọc chỉ dựa trên các loại đánh giá về ruột, trong lịch sử. “Mô hình rủi ro dự đoán chỉ là nói,‘ Không, không, không, chúng ta hãy thực hiện một cách tiếp cận có hệ thống hơn và theo kinh nghiệm cho vấn đề này. ”
Putnam-Hornstein và Rhema Vaithianathan, đồng giám đốc của Trung tâm phân tích dữ liệu xã hội , đã có thể đưa ý tưởng vào thực tế ở Quận Allegheny, Pennsylvania. Cặp đôi này đã sử dụng hàng nghìn lượt giới thiệu ngược đãi trẻ em để thiết kế một thuật toán xác định điểm số rủi ro cho mọi gia đình được báo cáo cho các dịch vụ bảo vệ trẻ em của quận, theo Trung tâm Báo chí Sức khỏe .
Marc Cherna, giám đốc Sở Dịch vụ Nhân sinh Quận Allegheny, giải thích trong loạt tài liệu “Có hàng trăm hoặc rất nhiều yếu tố khác nhau được xem xét. “Một số ví dụ cơ bản là tiền sử phúc lợi của trẻ em, tiền sử của cha mẹ, chắc chắn sử dụng ma túy và nghiện ngập, bệnh tâm thần gia đình, tù và kết án, và đặc biệt là nếu có những vụ hành hung và những điều tương tự.”
Do số lượng lớn các cuộc gọi, các cơ quan phúc lợi trẻ em trên khắp đất nước được giao nhiệm vụ xác định xem một gia đình nên được sàng lọc để điều tra dựa trên đơn khiếu nại hay bị loại bỏ.
Năm 2015, 42% trong số 4 triệu cáo buộc nhận được trên toàn quốc liên quan đến 7,2 triệu trẻ em đã được sàng lọc, theo Thời báo New York .
Tuy nhiên, trẻ em vẫn tiếp tục chết vì lạm dụng trẻ em.
Hệ thống đang được sử dụng ở Quận Allegheny được thiết kế để dự đoán chính xác hơn những gia đình nào có khả năng tham gia vào hệ thống trong tương lai thông qua phân tích dữ liệu.
Vaithianathan nói với The Times: “Những gì người sàng lọc có là rất nhiều dữ liệu. “Tuy nhiên, khá khó để điều hướng và biết yếu tố nào là quan trọng nhất. Chỉ trong một cuộc gọi tới C.Y.F. , bạn có thể có hai con, một kẻ bị cáo buộc là thủ phạm, bạn sẽ có mẹ, bạn có thể có một người lớn khác trong gia đình - tất cả những người này sẽ có lịch sử trong hệ thống mà người sàng lọc cuộc gọi có thể điều tra. Nhưng bộ não con người không khéo léo trong việc khai thác và hiểu tất cả dữ liệu. '
Công cụ sàng lọc gia đình Allegheny sử dụng một kỹ thuật thống kê được gọi là 'khai thác dữ liệu' để xem xét các mẫu lịch sử nhằm 'cố gắng đưa ra dự đoán về những gì có thể xảy ra' trong bất kỳ trường hợp cụ thể nào, cô nói trong loạt tài liệu.
Mỗi trường hợp được cho điểm rủi ro từ một đến 20 - phân loại từng trường hợp là rủi ro cao, rủi ro trung bình hoặc rủi ro thấp.
Rachel Berger, một bác sĩ nhi khoa tại Bệnh viện Nhi Pittsburgh, nói với The Times vào năm 2018 rằng điều làm cho phân tích dự đoán có giá trị là nó loại bỏ một số tính chủ quan thường xảy ra trong quá trình này.
Bà nói: “Tất cả những đứa trẻ này đang sống trong hỗn loạn. “Làm thế nào để C.Y.F. chọn ra cái nào nguy hiểm nhất khi chúng đều có yếu tố nguy cơ? Bạn không thể tin được mức độ chủ quan đi vào các quyết định bảo vệ trẻ em. Đó là lý do tại sao tôi thích phân tích dự đoán. Cuối cùng, nó cũng mang lại một số tính khách quan và khoa học cho những quyết định có thể thay đổi cuộc sống một cách khó tin ”.
Nhưng cũng có những nhà phê bình cho rằng việc sử dụng phân tích dự đoán dựa trên dữ liệu có thể đã bị sai lệch. Nghiên cứu trước đây đã chỉ ra rằng các gia đình thiểu số và thu nhập thấp thường bị đại diện quá mức trong dữ liệu được thu thập, có khả năng tạo ra sự thiên vị đối với các gia đình người Mỹ gốc Phi hoặc các gia đình thiểu số khác, theo loạt tài liệu.
“Thành kiến con người và thành kiến dữ liệuđi đôi với nhau”Kelly Capatosto, một cộng sự nghiên cứu cấp cao tại Viện Nghiên cứu Chủng tộc và Dân tộc Kirwan tại Đại học Bang Ohio, cho biết, theo Trung tâm Báo chí Sức khỏe. “Với những quyết định này, chúng tôi nghĩ đến việc giám sát và liên hệ với hệ thống - với cảnh sát, cơ quan phúc lợi trẻ em, bất kỳ cơ quan phục vụ phúc lợi xã hội nào. Nó sẽ được đại diện quá mức trong các cộng đồng (thu nhập thấp và thiểu số). Nó không nhất thiết cho thấy những trường hợp này đang diễn ra ở đâu. '
Erin Dalton, phó giám đốc văn phòng phân tích, công nghệ và lập kế hoạch của hạt Allegheny, thừa nhận rằng có thể có sự sai lệch.
“Chắc chắn, có sự thiên vị trong hệ thống của chúng tôi. Chúng tôi coi lạm dụng trẻ em và dữ liệu của chúng tôi không phải là chức năng của lạm dụng trẻ em thực tế, mà là chức năng của ai được báo cáo, ”cô nói trong loạt phim Netflix.
Nhưng quận cũng nói với Trung tâm Báo chí Sức khỏe rằng họ đã phát hiện ra rằng việc nhận các phúc lợi công cộng làm giảm điểm số rủi ro cho gần như gia đình của họ.
TCherna cũng cho biết trong loạt tài liệu của hạt ông “rất nhạy cảm” với mối quan tâm đó và đang thực hiện phân tích liên tục trên hệ thống để xác định xem liệu các nhóm có bị nhắm mục tiêu không cân xứng hay không, Cherna cũng cho biết trong loạt tài liệu.
Hệ thống Hạt Allegheny do chính hạt sở hữu, nhưng cũng có một số chỉ trích về các hệ thống sàng lọc thuộc sở hữu tư nhân khác.
bò tót có tấn công nhiều hơn những con chó khác không
Bộ Dịch vụ Gia đình và Trẻ em Illinois đã thông báo vào năm 2018 rằng họ sẽ không còn sử dụng gói phân tích dự đoán do Eckerd Connects, một tổ chức phi lợi nhuận và đối tác vì lợi nhuận MindShare Technology phát triển, một phần vì công ty từ chối cung cấp chi tiết về những yếu tố nào. đã được sử dụng trong công thức của họ, theo The Times.
Hệ thống được cho là đã bắt đầu chỉ định hàng nghìn trẻ em cần được bảo vệ khẩn cấp, mang lại cho hơn 4.100 trẻ em Illinois xác suất tử vong hoặc thương tích là 90% hoặc cao hơn, Chicago Tribune được báo cáo vào năm 2017.
Tuy nhiên, những đứa trẻ khác không nhận được điểm số rủi ro cao cuối cùng vẫn chết vì bị lạm dụng.
'Phân tích dự đoán (không) dự đoán bất kỳ trường hợp xấu nào,' Giám đốc Bộ Dịch vụ Gia đình và Trẻ em Beverly “B.J.” Walker nói với Tribune. 'Tôi đã quyết định không tiếp tục hợp đồng đó.'
Daniel Hatcher, tác giả của “ Ngành công nghiệp nghèo đói: Sự bóc lột những công dân dễ bị tổn thương nhất của Hoa Kỳ ”Đã so sánh một số hệ thống phân tích với“ hộp đen ”, trong loạt tài liệu nói rằng cách họ đưa ra quyết định không phải lúc nào cũng rõ ràng.
“Họ không có cách nào để tìm ra cách họ thực sự quyết định mức độ chăm sóc có tác động rất lớn đến một cá nhân,” ông nói.
Putnam-Hornstein thừa nhận rằng hệ thống phân tích dự đoán không thể xác định hành vi trong tương lai, nhưng bà tin rằng đó là một công cụ có giá trị cho phép những người sàng lọc đưa ra quyết định sáng suốt hơn về những đứa trẻ nào có thể gặp rủi ro cao nhất.
“Hy vọng của tôi là những mô hình này sẽ giúp hệ thống của chúng tôi chú ý nhiều hơn đến nhóm giới thiệu tương đối nhỏ, nơi có nguy cơ đặc biệt cao và chúng tôi sẽ có thể dành nhiều nguồn lực hơn cho những trẻ em và gia đình đó theo cách phòng ngừa,” cô nói, theo đến Trung tâm Báo chí Sức khỏe. “Tôi không muốn bất kỳ ai giám sát quá mức mô hình rủi ro dự đoán. Nó không phải là một quả cầu pha lê. Nó sẽ không giải quyết được tất cả các vấn đề của chúng tôi. Nhưng về mặt lợi nhuận, nếu nó cho phép chúng tôi đưa ra quyết định tốt hơn một chút và xác định các trường hợp rủi ro cao và phân loại chúng khỏi các trường hợp rủi ro thấp và điều chỉnh cho phù hợp, thì đây có thể là một bước phát triển quan trọng đối với lĩnh vực này. '
