Chính trị gia Ấn Độ Manoj Tiwari. (Nguồn: fossbytes.com) Trong khi các nội dung video theo hướng làm giả bằng trí tuệ nhân tạo (deepfake), sai lệch bị cấm ở nhiều quốc gia như Mỹ thì tại Ấn Độ, một chính trị gia đã sử dụng các kỹ thuật trí tuệ nhân tạo để tạo ra video với những hình ảnh cho thấy ông đang phát biểu bằng một ngôn ngữ khác trong khi thực tế không phải như vậy.
Trong một phiên bản của video chiến dịch tranh cử, ông Manoj Tiwari, một chính trị gia của đảng Bharatiya Janata đã có các phát biểu bằng tiếng Anh; tuy nhiên ở phiên bản deepfake với sự can thiệp của trí tuệ nhân tạo (AI), ông lại "nói tiếng" Haryanvi, một phương ngữ của tiếng Hindi.
Theo trang tin Vice, công ty truyền thông chính trị có tên gọi The Ideaz Factory đang hợp tác với đảng Bharatiya Janata để tạo ra các "chiến dịch tích cực" bằng cách sử dụng công nghệ tương tự được dùng trong các video deepfake và lồng tiếng giọng nói của một diễn viên để đọc các văn bản tiếng Haryanvi.
[Công nghệ ‘deepfake là gì và nó có thể gây nguy hiểm thế nào?]
Chuyên gia Sagar Vishnoi của The Ideaz Factory cho biết công ty này sử dụng thuật toán deepfake 'lip-sync' (ghép lời) và huấn luyện nó với các bài phát biểu của Manoj Tiwari để dịch lời nói của vị chính trị gia này thành âm thanh phù hợp với khẩu hình.
Ông Sag Sagar Vishnoi cho biết thêm rằng cách làm này cho phép các chính trị gia như ông Tiwari nhắm mục tiêu vào nhóm cử tri bình thường khó tiếp cận do khác biệt ngôn ngữ. Ấn Độ có hai ngôn ngữ chính thức là tiếng Hindi và tiếng Anh, trong khi ở một số bang lại lưu hành ngôn ngữ riêng và có hàng trăm phương ngữ khác nhau.
Theo Vice, đoạn video deepfake của ông Tiwari đã tiếp cận được khoảng 15 triệu người ở Ấn Độ.
Deepfake đề cập đến các video bị thao túng, hoặc các hình thức hiển thị kỹ thuật số khác được sản xuất bởi trí tuệ nhân tạo tinh vi, mang lại hình ảnh và âm thanh bịa đặt có vẻ như thật. Ví dụ, nó có thể được sử dụng để che phủ hình ảnh của khuôn mặt người nổi tiếng trên cơ thể người khác, nhằm đánh lừa người xem.
Khi điện thoại thông minh và ứng dụng máy ảnh ngày càng tinh vi, giờ đây người dùng có thể kéo dài chân, thay đổi màu mắt và thêm vô số tính năng khác để tạo ra những bức ảnh và video giả về người trông giống thật, và công nghệ này hiện đã có sẵn cho công chúng.
Các tập đoàn lớn như Facebook và Microsoft đã đưa ra các sáng kiến để phát hiện và loại bỏ các video deepfake. Theo Reuters, hai công ty này đã tuyên bố vào đầu năm 2019 rằng họ sẽ hợp tác với các trường đại học hàng đầu trên khắp nước Mỹ để tạo ra một cơ sở dữ liệu lớn các video giả cho hoạt động nghiên cứu.
Đầu tháng 9 năm ngoái, Facebook và Microsoft đã công bố một dự án trị giá 10 triệu USD tạo ra các video deepfake để giúp xây dựng hệ thống phát hiện.
Google cũng đã phát hành một bộ dữ liệu giúp phát hiện âm thanh deepfake nhằm ngăn chặn các trường hợp như giám đốc điều hành gần đây ở Mỹ đã bị lừa chuyển hơn 200.000 USD cho một kẻ lừa đảo giả mạo giọng nói ông chủ của vị giám đốc này./.
