Một phụ nữ 50 tuổi ở Tennessee đã phải ở tù hơn 5 tháng sau khi cảnh sát sử dụng công cụ nhận diện khuôn mặt AI liên kết bà với các vụ gian lận ngân hàng ở Bắc Dakota – nơi bà khẳng định chưa từng đến. Cáo trạng sau đó bị hủy bỏ, nhưng vụ việc làm dấy lên lo ngại sâu sắc về rủi ro nhận dạng sai khi ứng dụng AI trong điều tra.
Vụ bắt nhầm gây tranh cãi
Angela Lipps bị bắt tại Tennessee vào ngày 14/7/2024 dựa trên trát bắt do tòa Bắc Dakota phát hành, liên quan đến nhiều vụ gian lận ngân hàng xảy ra ở Fargo và vùng lân cận. Theo cảnh sát, hệ thống AI Clearview của sở cảnh sát West Fargo đã xác định Lipps là "nghi phạm tiềm năng" dựa trên ảnh trên một giấy tờ giả mạo được sử dụng trong một vụ gian lận. Tuy nhiên, Lipps khẳng định bà chưa từng đặt chân đến Bắc Dakota.
Sai sót trong điều tra
Cảnh sát Fargo thừa nhận một số lỗi trong quá trình điều tra:
- Nhầm lẫn rằng West Fargo đã gửi cả ảnh giám sát kèm báo cáo AI, trong khi thực tế chỉ gửi ảnh từ giấy tờ giả.
- Không gửi ảnh giám sát từ các vụ gian lận đến Trung tâm Tình báo Cấp bang và địa phương Bắc Dakota – đơn vị được đào tạo chuyên sâu về nhận diện khuôn mặt.
- Có sự chậm trễ trong việc thông báo về việc Lipps đã bị bắt từ Tennessee cho cơ quan Bắc Dakota, khiến bà phải ở tù hơn ba tháng trước khi bị di chuyển.
Phản ứng và biện pháp khắc phục
Sở cảnh sát Fargo đã ngừng sử dụng mọi thông tin từ hệ thống AI của West Fargo và cam kết cải tiến quy trình, bao gồm:
- Tất cả kết quả nhận diện khuôn mặt sẽ được nộp hàng tháng cho chỉ huy phòng Điều tra.
- Tăng cường phối hợp với Trung tâm Tình báo Cấp bang và địa phương Bắc Dakota.
- Xem xét cơ chế thông báo kịp thời khi có nghi phạm bị bắt theo trát của Fargo. Tuy nhiên, sở cảnh sát chưa đưa ra lời xin lỗi trực tiếp cho Lipps, cho rằng vẫn cần điều tra thêm về mạng lưới liên quan.
Bối cảnh về AI trong thực thi pháp luật
Vụ việc này là một trong những trường hợp gần đây phơi bày rủi ro khi sử dụng AI trong cảnh sát. Chuyên gia cảnh sát học Ian Adams nhận định, các cơ quan thường áp dụng công nghệ nhanh chóng dựa trên lời hứa của nhà cung cấp, mà thiếu bằng chứng về hiệu quả. Ông nhấn mạnh, lỗi thường xảy ra khi kết hợp giữa công nghệ và con người, đòi hỏi các điều tra viên phải thận trọng, không lạm dụng kết quả thuật toán. Trước đó, đã có các vụ việc nhận dạng sai dẫn đến bắt giữ oan, như học sinh ở Baltimore bị khám xét vì hệ thống an ninh AI nhầm túi khoai tây chiên với súng.