Gặp gỡ 4 anh hùng thiết kế đang bảo vệ nền dân chủ trực tuyến

 Họ đang đấu tranh cho sự công bằng và chính xác trong các thuật toán và trên các nền tảng kỹ thuật số.

HƠN NHƯ THẾ NÀY

Các bộ lọc COVID-19 vẫn còn quá thật. Đây là cách chúng tôi có thể thuyết phục họ

Để có hành động triệt để về biến đổi khí hậu, hãy tìm đến các bảo tàng

Ngắm nhìn bên trong những ngôi nhà tuyệt đẹp của các kiến ​​trúc sư và nhà thiết kế nổi tiếng nhất thế giới

BỞI KATHARINE SCHWAB4 PHÚT ĐỌC

Thiết kế là một hành động chính trị - và nó cũng có thể là lòng yêu nước. Trong những năm gần đây, các nhà thiết kế và nhà nghiên cứu đã đóng vai trò hàng đầu trong việc bảo vệ tính toàn vẹn của các nền tảng kỹ thuật số để họ không bị thúc đẩy bởi các thuật toán phân biệt chủng tộc, thiên vị hoặc bị lấn át bởi thông tin sai lệch. Một cách tuyệt vời để thể hiện tình yêu đất nước vào ngày 4 tháng 7 này là tìm hiểu những người đang đấu tranh để duy trì các giá trị cốt lõi của Hoa Kỳ. Dưới đây là bốn người bảo vệ nền dân chủ kỹ thuật số – và công việc quan trọng mà họ đang làm vì bình đẳng, công bằng, quyền công dân và sự thật.

[Nguồn ảnh: nhã nhặn Joy Buolamwini]

JOY BUOLAMWINI: TIẾT LỘ  HỆ THỐNG NHẬN DẠNG KHUÔN MẶT VÌ SỰ THIÊN VỊ TIỀM ẨN CỦA HỌ

Các thuật toán bị sai lệch khi dữ liệu cơ bản của chúng bị sai lệch. Joy Buolamwini, người sáng lập Liên minh Công lý Thuật toán và là nhà nghiên cứu tại MIT Media Lab đang cho thấy các thuật toán nhận dạng khuôn mặt thành kiến ​​về chủng tộc –mà có thể gây ra những hậu quả nghiêm trọng cho những người đàn ông và phụ nữ có khuôn mặt ngăm đen khi thực hiện việc kiểm soát và giám sát. Khi cảnh sát ghép nối camera an ninh với phần mềm nhận dạng khuôn mặt có khuyết điểm gặp khó khăn trong việc phân biệt giữa người da màu, có nhiều khả năng những người vô tội sẽ bị cuốn vào một hệ thống tư pháp hình sự bị phá vỡ.

Joy Buolamwini [Ảnh: TJ Rak]

Dự án có tên Gender Shades , thiết lập một phương pháp mới để đánh giá tiêu chuẩn các hệ thống nhận dạng khuôn mặt hiện có từ các công ty như IBM và Microsoft bằng cách kiểm tra độ chính xác ở bốn nhóm khác nhau: nam da sáng, nữ da sáng, nam da ngăm, và phụ nữ có khuôn mặt ngăm đen. Buolamwini nhận thấy rằng trong trường hợp thuật toán của IBM, khoảng cách chính xác giữa đàn ông da sáng và phụ nữ da sẫm là 34,4%. (IBM đã thực hiện phân tích của riêng mình và tìm thấy khoảng cách độ chính xác nhỏ hơn nhiều trong phiên bản mới nhất của phần mềm. Công ty cho biết họ cũng đang làm việc để giải quyết các vấn đề về sai lệch một cách tổng quát hơn.) công nghệ tốt hơn, công bằng hơn trong khi phơi bày các mối đe dọa mà các thuật toán thiên vị gây ra cho quyền tự do dân sự của mọi người.

[Hình ảnh: Katie Falkenberg / lịch sự ORCAA]

CATHY O'NEIL: THỬ NGHIỆM CÁC THUẬT TOÁN ĐỂ XÁC ĐỊNH SỰ THẬT CỦA CHÚNG

Tương tự như Buolamwini, nhà văn, nhà toán học và nhà hoạt động Cathy O'Neil đang làm việc để tìm ra những thành kiến ​​theo hướng dữ liệu có thể khiến một thuật toán không công bằng và không chính xác đối với một số nhóm người nhất định. O'Neil nổi tiếng nhất với cuốn sách Vũ khí hủy diệt toán học , trong đó ghi lại tác hại thực sự mà các thuật toán được thiết kế kém có thể gây ra. Gần đây, cô  đã đưa ra một công ty tư vấn xác nhận các thuật toán của các công ty là chính xác, không thiên vị và công bằng – và cho đến nay đã chứng nhận một số công ty, bao gồm cả công ty khởi nghiệp Rentlogic . Nhưng O'Neil chỉ mới bắt đầu và cô ấy hy vọng dịch vụ của mình sẽ truyền cảm hứng cho cả công ty và công chúng quan tâm tích cực hơn đến việc hiểu cách các thuật toán tác động đến cuộc sống của mọi người.

 

Cathy O'Neil

Tuy nhiên, O'Neil khẳng định rằng tư vấn của cô không thể thay thế các quy định và có kế hoạch làm việc để thuyết phục các nhà lập pháp rằng sai lệch thuật toán là một vấn đề thực sự đòi hỏi luật pháp. (Rốt cuộc, không có công ty nào sử dụng thuật toán để chữa bệnh sẽ tự nguyện đến với cô ấy.) Vào thời điểm mà nhiều công ty đang tích hợp AI vào các sản phẩm mà chúng ta sử dụng hàng ngày, công việc của O'Neil là một cách tiếp cận rất cần thiết để giải quyết mối đe dọa thực sự đối với cuộc sống và sinh kế của người dân.

J. NATHAN MATIAS: GIÚP CỘNG ĐỒNG TRỰC TUYẾN "THÚC ĐẨY" CÁC THUẬT TOÁN ĐI ĐÚNG HƯỚNG

Tin tức giả mạo đe dọa nền dân chủ (xem:  cuộc bầu cử năm 2016 ). Hàng triệu cử tri bị ảnh hưởng bởi các chiến dịch cung cấp thông tin sai lệch trên mạng và cuối cùng tin rằng các tiêu đề thực sự về tổng thống của chúng ta chỉ là một cuộc săn tin giả. Mặt khác, các nền tảng kỹ thuật số đã trở thành phương tiện cho diễn ngôn chính trị gặp khó khăn khi dán nhãn nội dung là "giả" mà không bị những người bảo thủ phản đối kịch liệt về quyền tự do ngôn luận. Nhà nghiên cứu J. Nathan Matias tại Trung tâm Truyền thông Dân trí của MIT Media Lab đã tạo ra một phần mềm cung cấp cho cộng đồng trực tuyến sức mạnh để thúc đẩy các thuật toán đi đúng hướng. Phần mềm của anh ấy, được gọi là CivilServant, gắn vào các bài đăng trên Reddit và yêu cầu các thành viên cộng đồng thêm liên kết đến nội dung khác để xác minh hoặc tranh chấp các tuyên bố của bài đăng gốc. Bằng cách yêu cầu cộng đồng trực tuyến cân nhắc, Matias nhận thấy rằng CivilServant đã khuyến khích các thuật toán của Reddit đẩy các bài đăng bị tranh chấp xuống danh sách của nó theo hệ số hai. Anh ấy gọi đây là một “cú thúc của AI”. Thử nghiệm cho thấy việc thúc đẩy mọi người suy nghĩ chín chắn hơn một chút về những gì họ đang xem sẽ làm giảm mức độ phổ biến của tin tức giả mạo.

[Hình ảnh: Bad News lịch sự]

SANDER VAN DER LINDEN: DẠY MỌI NGƯỜI VỀ CÁC CHIẾN DỊCH THÔNG TIN SAI LỆCH – BẰNG CÁCH YÊU CẦU HỌ TẠO LẠI CÁC CHIẾN THUẬT CỦA NÓ

Sander van der Linden

Nếu CivilServant là một cách tiếp cận thực tế nhằm thúc đẩy các thuật toán để loại bỏ tin tức giả mạo - điều mà Google và Facebook vẫn đang đấu tranh để làm - thì trò chơi Bad News có một cách tiếp cận giáo dục hơn. Được tạo ra bởi nhà nghiên cứu Sander van der Linden, người đứng đầu Phòng thí nghiệm ra quyết định xã hội của Đại học Cambridge và một số cộng tác viên, Bad News giúp mọi người hiểu cách thức hoạt động của tin giả . Nhưng đây không phải là công cụ dạy học truyền thống: để chơi trò chơi, mọi người phải sử dụng các chiến thuật của chính các chiến dịch thông tin sai lệch, sử dụng chúng để đánh lừa các thuật toán (và mọi người) tin là không có thật. Đó là một phần trong nghiên cứu của van der Linden về thứ mà ông gọi là “ vắc xin chân lý", Ý tưởng rằng khi mọi người hiểu các thủ thuật thúc đẩy sự lan truyền thông tin sai lệch trực tuyến, họ có thể xác định nó tốt hơn khi nhìn thấy nó và họ ít có khả năng bị ảnh hưởng bởi thông tin sai lệch. Bad News đặt ý tưởng đó dưới dạng một trò chơi vui nhộn, nhưng mục tiêu cơ bản là giống nhau: Khi nhiều người hiểu cách thức hoạt động của tin tức giả mạo, họ sẽ ít có khả năng rơi vào tình trạng đó.