Một buổi sáng đầu tháng 10, Drew Crecente nhận được thông báo của Google đánh dấu một hồ sơ trực tuyến mới có liên quan tới Jennifer - người con gái đã mất 18 năm trước.
Hồ sơ có tên kèm một bức ảnh kỷ yếu của Jennifer, người đã bị bạn trai cũ giết hại vào năm 2006 khi cô đang học năm cuối trung học. Một tiểu sử ngắn mô tả Jennifer là một nhà báo chuyên viết bài về các trò chơi điện tử và chuyên gia về công nghệ.
Tên và hình ảnh của Jennifer đã được sử dụng để tạo một chatbot trên Character.ai, một trang web cho phép người dùng trò chuyện với các nhân vật kỹ thuật số được tạo ra bằng trí tuệ nhân tạo (AI).
Crecente cho biết ông rất tức giận khi Character cho phép người dùng tạo bản sao của một học sinh trung học bị sát hại mà không có sự cho phép của gia đình cô.
Đây không phải là điều Crecente mong đợi được thấy con gái mình, gần 2 thập kỷ sau vụ giết người gây chấn động thành phố Austin và đảo lộn cuộc sống của cả gia đình.
Jennifer Crecente, khi đó 18 tuổi, mất tích vào tháng 2/2006 và được tìm thấy bị bắn chết trong khu rừng gần nhà vài ngày sau đó. Các nhà điều tra xác định bạn trai cũ của cô, cũng 18 tuổi, đã dụ Jennifer vào rừng và bắn cô bằng súng.
Vụ giết người đã ám ảnh bố mẹ của Jennifer. Hai người đã thành lập các tổ chức với mục đích ngăn chặn bạo lực hẹn hò ở tuổi vị thành niên. Họ cũng vận động hành lang chống lại việc ân xá cho kẻ giết Jennifer, người đã bị kết án 35 năm tù.
Vì công việc của tổ chức phi lợi nhuận do ông điều hành, trong nhiều năm liền, Crecente thường xuyên bật cảnh báo của Google để theo dõi các lần người dùng Internet nhắc đến tên con gái mình trực tuyến.
Lúc mới nhận được thông báo, Crecente không thể hiểu được điều gì đang xảy ra. Tuy nhiên, càng tìm hiểu, ông càng cảm thấy tức giận. Ngoài việc sử dụng tên và ảnh của Jennifer, trang chatbot còn mô tả cô bằng ngôn ngữ sống động, như thể cô vẫn còn sống. Ông đã ngay lập tức gửi email yêu cầu Character xóa nhân vật này và họ đã chấp nhận điều đó.
Một số chuyên gia về quyền riêng tư đã lên tiếng chỉ trích cách thức kiểm duyệt của Character là quá thụ động đối với nội dung vi phạm rõ ràng các điều khoản dịch vụ của chính họ trong trường hợp của Crecente.
Crecente không phải là phụ huynh đầu tiên có thông tin về con mình bị AI thao túng. Những người sáng tạo nội dung trên TikTok đã sử dụng AI để bắt chước giọng nói và hình ảnh của những đứa trẻ mất tích và tạo ra các video về những đứa trẻ kể lại cái chết của chính mình, khiến gia đình của chúng vô cùng phẫn nộ.
Các chuyên gia cho biết sự cố này làm dấy lên mối lo ngại về khả năng của ngành công nghiệp AI trong việc bảo vệ người dùng khỏi những tác hại tiềm ẩn liên quan tới các thông tin cá nhân nhạy cảm.
Character cho biết công ty này đã xóa các chatbot vi phạm những điều khoản dịch vụ, trong đó ngăn cấm người dùng mạo danh bất kỳ cá nhân hoặc tổ chức nào, và liên tục phát triển và tinh chỉnh các hoạt động an toàn nhằm ưu tiên sự an toàn của cộng đồng.
Các chatbot AI có thể tham gia trò chuyện và được lập trình để bắt chước tính cách và thông tin tiểu sử của các nhân vật cụ thể, có thật hoặc tưởng tượng. Các công ty AI quảng cáo những người bạn đồng hành kỹ thuật số này có thể trò chuyện giống như bạn bè hay thậm chí cả người yêu.
Công nghệ này cũng gây ra nhiều tranh cãi. Năm 2023, một người đàn ông tại Bỉ đã tự sát sau khi được khuyến khích tự tử trong cuộc trò chuyện với một chatbot.
Character, là một trong những công ty lớn nhất trong lĩnh vực AI, đã ký một thỏa thuận trị giá 2,5 tỷ USD trong năm nay để cấp phép các mô hình AI cho Google.
Character cung cấp một số chatbot do công ty này tạo ra nhưng cũng cho phép người dùng tạo và chia sẻ chatbot AI của riêng họ bằng cách tải lên ảnh, bản ghi âm giọng nói./.
Meta AI ra mắt công nghệ chuyển đổi hình ảnh thành video có âm thanh
Một số ứng dụng tiềm năng của công nghệ này bao gồm tạo ra video "một ngày trong cuộc sống" để chia sẻ trên Reels hoặc tạo lời chúc mừng sinh nhật dưới dạng video hoạt hình gửi qua WhatsApp.