Khi các thành phố và tiểu bang giới thiệu các thuật toán để cung cấp nhiều dịch vụ công như quản lý giao thông, trật tự trị an, họ cũng chạy đua đưa ra những chính sách dành cho công nghệ mới này.

Trong kịch bản tệ nhất, AI gây bất lợi cho các nhóm vốn đã ở “bên lề”, gia tăng thành kiến trong tuyển dụng, kiểm soát chính sách và các lĩnh vực khác. Quyết định của nó thường có thể không rõ ràng, rất khó để chỉ ra cách khắc phục sự thiên vị cũng như các vấn đề khác.

Các thành phố đang tìm kiếm nhiều giải pháp để xử lý. Một số yêu cầu tiết lộ khi nào mô hình AI được dùng trong ra quyết định, số khác đòi hỏi kiểm tra thuật toán, theo dõi những điểm AI có hại hay hỏi ý kiến công chúng trước khi đưa hệ thống AI mới vào sử dụng.

Theo Joanna Bryson, Giáo sư Đạo đức và công nghệ tại Trường Hertine, Berlin (Đức), cc thành phố và cơ quan công quyền sẽ cần thời gian để trở thành chuyên gia trong các lĩnh vực nói trên và tìm ra cách tốt nhất để ra quy định. Họ sẽ cung cấp mô hình cho nhiều thành phố, thậm chí quốc gia khác, đang nỗ lực tương tự. 

Amsterdam và Helsinki

Một trong những phàn nàn lớn nhất về AI là không thể giải thích quá trình ra quyết định của nó, dẫn đến khiếu nại về kết quả thiên vị. Để giúp người dân biết rõ hơn về công nghệ đang dùng trong thành phố, Amsterdam và Helsinki mở các website mô tả mỗi chính quyền sử dụng thuật toán như thế nào. Chúng bao gồm thông tin về bộ dữ liệu dùng để đào tạo một thuật toán, chi tiết về cách dùng một thuật toán và các nhân viên công vụ sử dụng kết quả ra sao, con người tham gia giám sát như thế nào, thành phố kiểm tra công nghệ để tìm ra vấn đề bằng cách nào.

Amsterdam đã giải thích đầy đủ 6 thuật toán và đặt mục tiêu từ 50 tới 100 trên website, trong đó có điều khiển bãi đỗ xe tự động và khiếu nại về rác thải. Trong khi đó, Helsinki chỉ tập trung vào các thuật toán hiện đại nhất và đã công bố thông tin về 6 thuật toán.

Linda van de Fliert, cố vấn tại Văn phòng Công nghệ Amsterdam, cho rằng bản thân họ cần phải tự đánh giá các rủi ro. Họ muốn cho cả thế giới biết minh bạch là điều hoàn toàn làm được. Bà không nhớ nổi bao nhiêu thành phố đã liên hệ với mình để tìm kiểu về website. 

Website không cung cấp thông tin cá nhân để giải thích hóa đơn hay phí đơn lẻ của mỗi công dân. Thay vào đó, họ cho công dân phản hồi về thuật toán, cũng như tên, thông tin liên lạc, phòng ban của người chịu trách nhiệm triển khai một thuật toán cụ thể. 

New York

Một số thành phố tìm cách loại bỏ sự thiên vị tiềm tàng trong các thuật toán. Vào tháng 1, Hội đồng thành phố New York thông qua dự luật – có hiệu lực năm 2023 – bao trùm các công ty bán phần mềm AI để “quét” những nhân viên tiềm năng. Theo đó, doanh nghiệp phải được kiểm toán để bảo đảm họ không phân biệt đối xử với các ứng viên dựa trên chủng tộc, giới tính hay quốc gia. Quy định mới cũng yêu cầu những công ty sử dụng AI để tuyển dụng hay thăng chức tiết lộ việc dùng AI cho nhân viên và ứng viên.

Julia Stoyanovich, Giáo sư Kỹ thuật và Khoa học máy tính Đại học New York kiêm Giám đốc Trung tâm AI có trách nhiệm Tandon, tuyển dụng là lĩnh vực thực sự mạo hiểm. Mọi người đang dùng nhiều công cụ mà không có bất kỳ sự giám sát nào. Tuy vậy, bà Stoyanovich nhận xét quy định của New York chưa đầy đủ, chẳng hạn, nó không nêu chi tiết những gì cấu thành một cuộc kiểm toán. Theo bà, đảm bảo các cuộc kiểm toán hữu ích đối với công chúng sẽ là thách thức tiếp theo.

“Chúng tôi muốn bảo đảm cách thực hiện kiểm toán, người thực hiện và nội dung bao hàm”, bà nói.

Santa Clara 

Một nỗ lực khác để giảm thiên vị là giải thích cách các nhà hành pháp sử dụng AI. Hạt Santa Clara thuộc California đã thông qua dự luật bắt buộc cộng đồng giám sát đối với sự giám sát của cảnh sát (CCOPS) vào năm 2017. Luật yêu cầu bất kỳ cơ quan nào trong phạm vi của hạt Santa Clara muốn dùng công nghệ theo dõi phải đệ trình để xin ý kiến cộng đồng tại một cuộc họp Ban Giám sát công khai.

Họ phải trình chính sách nêu chi tiết cách sử dụng công nghệ, bao gồm thu thập hay chia sẻ bao nhiêu dữ liệu. Nếu Ban Giám sát chấp thuận, cơ quan đó sẽ chịu trách nhiệm báo cáo tác động hàng năm để chứng minh công nghệ đáp ứng các tiêu chuẩn kỹ thuật đã nhất trí.

Từ khi luật có hiệu lực, Ban Giám sát đã phê duyệt sử dụng gần 100 công nghệ, trừ nhận diện gương mặt do lo ngại kết quả sai lầm. Theo Chad Marlow, một nhà vận động chính sách và cố vấn chính sách cấp cao, có 22 thành phố với các phiên bản CCOPS riêng, bao trùm 17,7 triệu dân. Mỗi thành phố đều điều chỉnh quy định cho phù hợp với nhu cầu cụ thể.

Tăng cường hợp tác

Một nhóm các thành phố đang thúc đẩy nỗ lực AI để giúp đào tạo các thành phố khác về thực hành triển khai hệ thống AI hiệu quả hơn. Đó là những gì mà Amsterdam, Barcelona và London hi vọng đạt được với sáng kiến Đài quan sát AI đô thị toàn cầu.

Laia Bonet, Phó Thị trưởng về chuyển đổi số, đi lại và quan hệ quốc tế của Barcelona, cho hay: “Chúng tôi muốn trở thành nguốn kiến thức cho cả các thành phố và nhà nghiên cứu”.

Ba thành phố nhất trí trên 5 nguyên tắc: công bằng và không phân biệt đối xử, minh bạch và cởi mở, an toàn và an ninh mạng, bảo vệ quyền riêng tư, tính bền vững. Đây đều là các nguyên tắc mà các nhà lập pháp cần tính đến khi mua sắm hay phát triển hệ thống AI. Đài quan sát dự định công bố báo cáo trong năm nay, bao gồm atlas những phương pháp thực hành AI tốt nhất trên khắp thế giới. Chẳng hạn, nó chứa hướng dẫn của Amsterdam về những gì các thành phố nên yêu cầu từ các nhà cung cấp AI tư nhân, hay hệ thống của Barcelona trong việc tạo ra hệ thống khuyến nghị cho dịch vụ xã hội. Các nghiên cứu khác sẽ khám phá cách triển khai công nghệ và các thành phố điều hướng quan hệ công – tư như thế nào.

Những nguyên tắc và nghiên cứu này sẽ hỗ trợ các thành phố phát triển tiêu chuẩn riêng xoay quanh các ứng dụng AI. Tất nhiên, ngay cả khi hợp tác với nhau, vẫn có những cách tiếp cận khác biệt giữa các thành phố. Ví dụ, London ủng hộ sử dụng công nghệ nhận diện gương mặt trong một số trường hợp, còn Barcelona và Amsterdam thì không. Họ chỉ đồng ý về tầm quan trọng của các mục tiêu và chia sẻ thông tin sẽ tạo ra AI tốt hơn trên toàn cầu.

Du Lam