Deepfake là gì? Sự đáng sợ của nó

Deepfake là gì

Có lẽ bạn đã biết đến hàng loạt video lan truyền có tên là Bad Bad Lip Reading, nơi mà mọi người từ tổng thống Hoa Kỳ Obama đến Super Bowl MVP nói những thứ điên khùng. Các đoạn video này được thay thế âm thanh, hình ảnh chuyển động giống như thật.

Có một công nghệ AI mới hơn cho phép ai đó không chỉ thay thế giọng nói của người nói mà còn thay đổi đặc điểm khuôn mặt của họ để khiến họ nói bất cứ điều gì bạn muốn. Mặc dù có thể tạo ra một video hài hước để chia sẻ trực tuyến, nhưng việc sử dụng tiềm năng của công nghệ mới này sẽ có những ảnh hưởng đáng lo ngại và nguy hiểm đến xã hội trong những năm tới.

Deepfake là gì?

Deepfakes là một video về một người nào đó nói hoặc họ có thể làm những điều mà họ chưa bao giờ làm trong thực tế. Những video giả này được tạo nên từ các máy tính sử dụng công nghệ AI cho phép người tạo sử dụng những hình ảnh và âm thanh lòng ghép vào nhau một cách chân thực đến khó tin. Những video này có thể được tạo bởi bất kỳ ai có kiến thức đồ họa và máy tính đủ mạnh. Và Deepfake là mối đe dọa thực sự cho xã hội.

Vào tháng 4 năm 2018, nam diễn viên kiêm nhà sản xuất Jordan Peele đã tạo ra một tác phẩm "đỉnh cao" của cựu Tổng thống Obama. Nó ban đầu đánh lừa một số người xem trực tuyến cho đến khi Peele tiết lộ sức mạnh của công nghệ này. Nhiều người trong chính phủ và cộng đồng tình báo đang cực kỳ lo lắng về việc nó sẽ bị lạm dụng như thế nào. Cho đến ngày nay, chúng ta vẫn không có khả năng phát hiện các video giả mạo này, nhưng các nhà phát triển đang nỗ lực để thiết kế các công cụ phát hiện giả mạo, điều này có vẻ đang là thách thức lơn.

Làm thế nào để Deepfake hoạt động?

Công nghệ Deepfake đã xuất hiện trong một số năm trong ngành công nghiệp phim ảnh. Công nghệ Memoji của Apple, infamous video của Snapchat sử dụng một loại công nghệ tương tự deepfake. Những phiên bản này được thiết kế để khiến bạn trông giống như một con robot biết nói, cho bạn đôi taithỏ hoặc thậm chí trao đổi khuôn mặt với bạn bè.

Cái tên Deepfake xuất phát từ một nickname trên reddit. Để tạo ra một deepfake, nội dung video của một chủ đề được phân tích và ánh xạ bởi một dạng trí tuệ nhân tạo sử dụng một kỹ thuật máy học. Bản đồ kỹ thuật số được tạo từ khuôn mặt, miệng và các đặc điểm xác định khác của chủ thể cho phép máy tính đưa một người đến một nơi khác cũng như thay đổi những gì họ nói bằng cách đưa âm thanh ghi sẵn vào.

Sau đó, AI kết hợp các nội dung lại với nhau để tạo ra một video giả mà giống thật 99,99%. Máy tính sẽ tự động pha trộn các đặc điểm khuôn mặt, ánh sáng và các yếu tố khác để kết hợp nội dung mới và cũ một cách hợp lý nhất. Khi máy tính và thuật toán ngày càng mạnh mẽ thì để phát hiện ra video giả mạo là điều gần như không thể.

Deepfake có thể ảnh hưởng đến xã hội?

Do tính chất lan truyền của nội dung được chia sẻ trên phương tiện truyền thông xã hội, công nghệ deepfake có khả năng phá hoại trật tự xã hội và thậm chí phá vỡ quan hệ quốc tế.

Comments