Video: Video giả hoàn hảo sẽ được trí tuệ nhân tạo nhận diện
2024 Tác giả: Richard Flannagan | [email protected]. Sửa đổi lần cuối: 2023-12-16 00:21
Một năm trước, Manish Agrawala của Stanford đã giúp phát triển công nghệ đồng bộ hóa môi cho phép người chỉnh sửa video thay đổi lời nói của người nói một cách gần như không thể nhận thấy. Công cụ này có thể dễ dàng chèn những từ mà một người chưa bao giờ nói, ngay cả ở giữa câu hoặc xóa những từ mà người đó đã nói. Mọi thứ sẽ trông thực tế bằng mắt thường và thậm chí đối với nhiều hệ thống máy tính.
Công cụ này đã giúp việc sửa lỗi trở nên dễ dàng hơn nhiều mà không cần quay lại toàn bộ cảnh và cũng đã điều chỉnh các chương trình truyền hình hoặc phim cho các đối tượng khác nhau ở những nơi khác nhau. Nhưng công nghệ này cũng đã tạo ra những cơ hội mới đáng lo ngại cho các video giả khó tìm, với mục đích bóp méo sự thật rõ ràng. Ví dụ: một video gần đây của Đảng Cộng hòa đã sử dụng một kỹ thuật thô bạo hơn cho cuộc phỏng vấn với Joe Biden.
Mùa hè này, Agrawala và các đồng nghiệp tại Stanford và UC Berkeley đã tiết lộ một phương pháp tiếp cận dựa trên trí tuệ nhân tạo đối với công nghệ hát nhép. Chương trình mới phát hiện chính xác hơn 80% hàng giả, nhận ra sự khác biệt nhỏ nhất giữa âm thanh của con người và hình dạng miệng của họ.
Nhưng Agrawala, giám đốc Viện Đổi mới Truyền thông Stanford và giáo sư khoa học máy tính tại Forest Baskett, người cũng liên kết với Viện Trí tuệ nhân tạo lấy con người làm trung tâm của Stanford, cảnh báo rằng không có giải pháp kỹ thuật lâu dài nào cho hàng giả sâu sắc.
Làm thế nào hàng giả hoạt động
Có những lý do chính đáng cho việc thao túng video. Ví dụ: bất kỳ ai đang quay một chương trình truyền hình, phim hoặc quảng cáo hư cấu đều có thể tiết kiệm thời gian và tiền bạc bằng cách sử dụng các công cụ kỹ thuật số để sửa lỗi hoặc tùy chỉnh kịch bản.
Vấn đề nảy sinh khi những công cụ này được cố tình sử dụng để lan truyền thông tin sai lệch. Và nhiều kỹ thuật là vô hình đối với người xem bình thường.
Nhiều video giả mạo sâu sắc dựa vào hoán đổi khuôn mặt, theo nghĩa đen là ghép khuôn mặt của một người lên video của người khác. Nhưng trong khi các công cụ thay đổi khuôn mặt có thể hấp dẫn, chúng tương đối thô và thường để lại các hiện vật kỹ thuật số hoặc trực quan mà máy tính có thể phát hiện được.
Mặt khác, các công nghệ hát nhép ít được nhìn thấy hơn và do đó khó bị phát hiện hơn. Họ điều khiển một phần nhỏ hơn nhiều của hình ảnh và sau đó tổng hợp các chuyển động của môi khớp với chính xác cách miệng của một người sẽ thực sự cử động nếu người đó nói những từ nhất định. Theo Agrawal, với đủ mẫu hình ảnh và giọng nói của một người, một nhà sản xuất giả có thể khiến một người "nói" bất cứ điều gì.
Phát hiện hàng giả
Lo ngại về việc sử dụng công nghệ này một cách phi đạo đức, Agrawala đã làm việc với Ohad Freed, một nghiên cứu sinh tiến sĩ tại Stanford, để phát triển một công cụ phát hiện; Hani Farid, giáo sư tại Đại học California, Trường Thông tin Berkeley; và Shruti Agarwal, một nghiên cứu sinh tiến sĩ tại Berkeley.
Lúc đầu, các nhà nghiên cứu đã thử nghiệm bằng một kỹ thuật hoàn toàn thủ công, trong đó những người quan sát nghiên cứu các cảnh quay video. Nó hoạt động tốt, nhưng trong thực tế, nó tốn nhiều công sức và thời gian.
Sau đó, các nhà nghiên cứu đã thử nghiệm một mạng nơ-ron dựa trên trí tuệ nhân tạo sẽ nhanh hơn nhiều để thực hiện phân tích tương tự sau khi được huấn luyện qua video với cựu Tổng thống Barack Obama. Mạng nơ-ron đã phát hiện ra hơn 90% hoạt động hát nhép của chính Obama, mặc dù độ chính xác đối với những người nói khác giảm xuống còn khoảng 81%.
Một thử nghiệm thực sự của sự thật
Các nhà nghiên cứu cho biết cách tiếp cận của họ chỉ là một phần của trò chơi mèo vờn chuột. Khi các kỹ thuật giả mạo sâu được cải thiện, chúng sẽ để lại ít chìa khóa hơn.
Cuối cùng, Agrawala nói, vấn đề thực sự không nằm ở việc chống lại các video giả mạo sâu sắc mà chống lại thông tin sai lệch. Trên thực tế, ông lưu ý, phần lớn thông tin sai lệch phát sinh từ việc bóp méo ý nghĩa của những gì mọi người thực sự đã nói.
Ông nói: “Để giảm thông tin sai lệch, chúng ta cần cải thiện kiến thức truyền thông và phát triển hệ thống trách nhiệm giải trình. "Điều này có nghĩa là luật cấm cố ý sản xuất thông tin sai lệch và hậu quả của việc vi phạm chúng, cũng như các cơ chế để loại bỏ tác hại gây ra."
Đề xuất:
5 đại diện của các gia đình hoàng gia hiện đại đã chọn những nghề hoàn toàn không thuộc hoàng gia
Cuộc sống hiện đại đặt ra những quy tắc riêng của nó. Và nếu các thành viên hoàng tộc trước đó chỉ tham gia vào các công việc nhà nước, sắp xếp các buổi chiêu đãi và phát triển lòng từ thiện, thì thực tế của xã hội hiện đại sẽ đưa ra các quy tắc khác nhau. Ngày càng có nhiều quý tộc bắt đầu sống cuộc sống của những người bình thường và làm chủ những nghề hoàn toàn "trần thế". Họ không dựa vào vị trí của mình trong xã hội mà chỉ dựa vào tài năng của mình và coi đó là nhiệm vụ của mình để giúp đỡ mọi người bằng những việc làm thực sự. Hôm nay chúng ta sẽ gọi tên chúng
Marilyn Monroe, Elvis và những người khác sẽ trông như thế nào khi về già: Trí tuệ nhân tạo đã làm già đi những thần tượng ra đi sớm
Marilyn Monroe rất sợ tuổi già, nhưng ngay cả cái chết năm 36 tuổi cũng không cứu được cô khỏi viễn cảnh này. Một nhà báo đã quyết định, vì lợi ích, để xem những ngôi sao thế giới rời bỏ thế giới này khi còn trẻ sẽ trông như thế nào nếu họ còn sống sót cho đến ngày nay. Sử dụng một chương trình máy tính đơn giản, anh ấy không chỉ già đi Marilyn mà còn cả các diễn viên và nhạc sĩ nổi tiếng khác và đăng kết quả thí nghiệm của mình lên Instagram
Bức tranh trí tuệ nhân tạo lần đầu tiên được bán đấu giá
Tại phiên đấu giá cuối cùng của nhà đấu giá Christie trong danh sách các lô đã quyết định đưa vào một bức tranh với tiêu đề "Chân dung của Edmond de Belamy". Điểm đặc biệt của nó nằm ở chỗ nó không được tạo ra bởi một nghệ sĩ vĩ đại, mà là sự sáng tạo của trí tuệ nhân tạo
Triển lãm về vai trò của trí tuệ nhân tạo trong nghệ thuật sẽ được tổ chức tại Hermitage
Vào ngày 6 tháng 6, Bộ Tổng tham mưu của Hermitage sẽ tổ chức khai mạc triển lãm mang tên Trí tuệ nhân tạo và Đối thoại của các nền văn hóa. Quỹ đầu tư trực tiếp của Nga đang tham gia tổ chức sự kiện này. Cần lưu ý rằng ngày khai mạc triển lãm này trùng với ngày đầu tiên của Diễn đàn Kinh tế Quốc tế St
Trong một thế giới hoàn hảo. Thế giới hoàn hảo trong áp phích và áp phích của Catrina Dulay
Không có con người lý tưởng, cũng như một thế giới lý tưởng. Nhưng tuy nhiên, mỗi chúng ta không bao giờ thôi mơ về việc sẽ tuyệt vời như thế nào nếu … Vấn đề này được dành riêng cho dự án hài hước của nhà thiết kế Catrina Dulay, mang tên "Trong một thế giới hoàn hảo"