Ngày 19/12, Ủy ban Thương mại Liên bang Mỹ (FTC) đã yêu cầu chuỗi nhà thuốc Rite Aid của nước này ngừng sử dụng công nghệ nhận diện khuôn mặt trong vòng 5 năm tới, do quan ngại về những tác động tiêu cực đối với khách hàng.
Lệnh cấm được đưa ra trong bối cảnh ngày càng có nhiều quan ngại đối với vấn đề quản lý việc sử dụng an toàn công nghệ và ứng dụng tích hợp trí tuệ nhân tạo (AI).
Theo FTC, công ty Rite Aid đã triển khai công nghệ nhận diện khuôn mặt dựa trên AI từ năm 2012 đến 2020, nhằm giám sát và ngăn chặn những đối tượng có ý định trộm đồ trong cửa hàng hoặc những hành vi gian lận khác.
Tuy nhiên, ông Samuel Levine- Giám đốc phụ trách bộ phận bảo vệ khách hàng của FTC, nói rằng việc Rite Aid sử dụng công nghệ giám sát này đã có lần gây ra sự cố xác định nhầm khách hàng là người trộm đồ.
Điều này gây ra phương hại đến uy tín của khách hàng cũng như những tổn hại khác về mặt tinh thần. Rite Aid cũng đã không huấn luyện nhân viên về những sai sót có thể gặp phải trong quá trình sử dụng công nghệ.
Ngoài lệnh cấm nói trên, FTC cũng yêu cầu Rite-Aid và các công ty khác liên quan xóa bỏ tất cả dữ liệu liên quan đến chương trình công nghệ trên.
Về phía Rite-Aid, công ty này cho biết đã triển khai chương trình thử nghiệm này ở một số cửa hàng và đã ngừng sử dụng từ cách đây hơn ba năm, trước khi FTC bắt đầu tiến hành điều tra về việc Rite Aid sử dụng công nghệ này.
Tiến sỹ Padmanabhan Anandan: AI không bao giờ có thể thay thế được con người
Theo Tiến sĩ Padmanabhan Anandan, Trí tuệ nhân tạo(AI) không phải là mối đe dọa đối với con người nhưng cũng không bao giờ có thể thay thế được con người trong tương lai.
Công ty này cho biết sẵn sàng đạt thỏa thuận với FTC nhằm chấm dứt những sự cố không mong muốn nói trên. Lệnh cấm được đưa ra trong bối cảnh chuỗi nhà thuốc Rite Aid của Mỹ đã nộp đơn xin phá sản hồi tháng 10 vừa qua.
Công nghệ AI nhận diện khuôn mặt là công nghệ ứng dụng trí tuệ nhân tạo vào việc xác định danh tính thông qua việc phân tích đặc điểm khuôn mặt.
Tuy nhiên, với tốc độ phát triển của các mô hình AI đã trở thành mối quan ngại hiện nay, nhằm giảm thiểu rủi ro do công nghệ này mang lại.
Nhiều nước trên thế giới hiện đang tìm cách xây dựng quy định pháp lý về sử dụng AI một cách an toàn, công bằng, bảo đảm các quyền cơ bản của con người, cũng như tạo cơ sở để các doanh nghiệp có thể tiếp tục phát triển dựa trên công nghệ này./.