Thị trưởng thành phố New York của Mỹ Eric Adams đang nỗ lực bảo vệ chatbot Trí tuệ Nhân tạo (AI) mới của thành phố, cho dù chatbot này đưa ra những câu trả lời chưa chuẩn xác hoặc những lời khuyên sai luật.
Khi ra mắt thử nghiệm vào tháng 10 năm ngoái, chatbot MyCity được quảng cáo là chatbot đầu tiên sử dụng công nghệ AI như vậy trên toàn thành phố, hứa hẹn mang lại cho các chủ doanh nghiệp các thông tin đáng tin cậy để trả lời các truy vấn được nhập vào một cổng thông tin trực tuyến.
Tuy nhiên, tuần trước, các nhà báo điều tra của báo The Markup đưa tin chatbot này đã gặp sự cố khi đưa ra lời khuyên rằng chủ sử dụng lao động có thể cắt giảm tiền thưởng của nhân viên và rằng không có quy định nào yêu cầu chủ sử dụng lao động phải thông báo về những thay đổi lịch làm của nhân viên.
Sau sự cố này, Thị trưởng Adams thừa nhận có một số vấn đề đối với chatbot MyCity và chính quyền sẽ cho khắc phục sự cố trên chương trình thử nghiệm hiện nay.
Thị trưởng Adams cũng nhấn mạnh rằng: "Bất cứ khi nào bạn sử dụng công nghệ, bạn cần phải đặt nó vào môi trường thực tế để giải quyết những khúc mắc."
Ngoài ra, chính quyền thành phố khuyến nghị các phản hồi của MyCity đôi khi có thể không chính xác hoặc không đầy đủ, do đó yêu cầu các doanh nghiệp không sử dụng các câu trả lời của chatbot này thay cho các lời khuyên pháp lý.
Người dùng vẫn có thể truy cập MyCity trong ngày 4/4, song chatbot này đôi khi vẫn đưa ra câu trả lời không chuẩn xác. Đơn cử như MyCity tư vấn rằng các chủ cửa hàng được tự do chuyển sang không dùng tiền mặt, nhưng trên thực tế, Hội đồng thành phố năm 2020 đã thông qua quy định cấm các cửa hàng từ chối nhận tiền mặt.
Hoặc chatbot này vẫn trả lời mức lương tối thiểu của thành phố là 15 USD/giờ, song thực thế mức này đã tăng lên 16 USD trong năm nay.
Chatbot MyCity dựa trên dịch vụ Azure AI của hãng Microsoft. Hiện cả Microsoft và Tòa thị chính thành phố đều chưa phản hồi về nguyên nhân gây ra lỗi đối với chatbot trên và cách khắc phục lỗi./.