Sự xuất hiện của deepfake trên YouTube đã làm thay đổi hoàn toàn diện mạo của video trực tuyến. Điều mà vài năm trước đây tưởng chừng chỉ là một thử nghiệm công nghệ đơn giản giờ đã trở thành một vấn đề lớn: những video bắt chước người nổi tiếng, chính trị gia hoặc người sáng tạo nội dung với độ chính xác đáng kinh ngạc, có khả năng lừa dối, thao túng hoặc hủy hoại danh tiếng chỉ trong vài giờ.
Trước thách thức này, YouTube đã quyết định có cách tiếp cận nghiêm túc và triển khai chiến lược quyết liệt hơn nhiều đối với nội dung do AI tạo ra nhằm mạo danh người thật. Các công cụ mới, chính sách nghiêm ngặt hơn, hệ thống báo cáo cụ thể và sự hợp tác với ngành công nghiệp giải trí cùng các nhân vật công chúng quan trọng đều là một phần của chiến dịch nhằm hạn chế sự lan truyền của những sản phẩm nhân tạo này.
Deepfake là gì và tại sao chúng lại là vấn đề trên YouTube?
Khi nói về deepfake, chúng ta đang đề cập đến các video, hình ảnh hoặc âm thanh được tạo ra hoặc chỉnh sửa bằng trí tuệ nhân tạo tạo sinh để bắt chước khuôn mặt, giọng nói hoặc cử chỉ của một người thật. Trên YouTube, điều này thể hiện ở các clip mà một người nổi tiếng xuất hiện để nói hoặc làm điều gì đó chưa từng xảy ra, hoặc các bài hát được trình bày bằng giọng nói của một nghệ sĩ được sao chép mà không có sự cho phép của họ.
Loại nội dung này có nhiều mục đích tiềm tàng: từ việc đánh lừa và tung tin sai lệch trên diện rộng (ví dụ, trong một cuộc bầu cử), đến việc giải trí thiếu trách nhiệm, đến việc tấn công trực tiếp vào danh tiếng của người nổi tiếng, chính trị gia hoặc nhân vật công chúng. Vấn đề chính là, khi công nghệ ngày càng phát triển, việc phân biệt đâu là nội dung xác thực và đâu là nội dung do trí tuệ nhân tạo tạo ra ngày càng trở nên khó khăn.
Trong những năm gần đây, YouTube đã bị tràn ngập bởi cái mà chính CEO của họ gọi là "nội dung rác" được tạo ra bởi trí tuệ nhân tạo . Trong số đó, các video giả mạo người nổi tiếng (deepfake) nổi bật bởi tính chất nguy hại tiềm tàng: chúng không chỉ gây khó chịu cho người dùng đang tìm kiếm các video chất lượng, mà còn đe dọa tính hợp pháp, quyền đối với hình ảnh cá nhân và niềm tin vào nền tảng này.
Các chuyên gia đã bắt đầu bàn luận về một cuộc xung đột nghiêm trọng liên quan đến danh tính kỹ thuật số và việc bảo vệ người nổi tiếng . Bất cứ ai có quyền truy cập vào các công cụ trí tuệ nhân tạo (AI) tương đối tiên tiến đều có thể tạo ra một video giả mạo diễn viên, nhạc sĩ hoặc chính trị gia trông rất đáng tin và tải lên YouTube. Nếu không có hệ thống phát hiện và phản hồi hiệu quả, thiệt hại về danh tiếng có thể rất lớn và khó khắc phục.
Phản hồi của YouTube: Hãy dùng AI để chống lại AI.
Trước tình huống này, YouTube đã chọn áp dụng logic " nếu không thể đánh bại họ, hãy tham gia cùng họ ". Thay vì chỉ phản hồi các báo cáo thủ công, nền tảng này đã phát triển các hệ thống dựa trên trí tuệ nhân tạo để xác định các video giả mạo sử dụng hình ảnh hoặc giọng nói của người thật.
Công ty vừa công bố mở rộng công nghệ phát hiện người giống mình , một công cụ được thiết kế để tự động nhận diện nội dung do AI tạo ra bắt chước khuôn mặt hoặc giọng nói của những cá nhân cụ thể. Công nghệ này không chỉ tìm kiếm những nội dung giả mạo rõ ràng: nó phân tích các mẫu khuôn mặt, âm sắc giọng nói và các đặc điểm riêng biệt để xác định xem một đoạn nội dung có thể là deepfake hay không.
Điều thú vị là YouTube kết hợp những tiến bộ công nghệ này với chính sách bảo vệ nghiêm ngặt hơn nhiều . Vấn đề không chỉ là tìm kiếm video, mà còn là cung cấp cho những người bị ảnh hưởng một kênh rõ ràng và tương đối nhanh chóng để yêu cầu gỡ bỏ video, đặc biệt khi có sự mạo danh, lừa đảo hoặc sử dụng hình ảnh của họ một cách rõ ràng và lạm dụng.
Nỗ lực này xuất phát từ áp lực ngày càng tăng từ người dùng, nghệ sĩ, hãng thu âm, công ty quản lý tài năng và các lĩnh vực khác dễ bị ảnh hưởng bởi thông tin sai lệch. Tất cả họ đều đã thúc giục YouTube từ lâu triển khai các cơ chế hiệu quả để ngăn chặn video giả mạo và việc sử dụng trái phép hình ảnh hoặc giọng nói của họ.
Từ Content ID đến hệ thống phát hiện nội dung tương tự
Để hiểu cách thức hoạt động của chiến dịch tấn công mới này, chúng ta nên nhìn lại quá khứ. YouTube đã sử dụng Content ID trong nhiều năm , một hệ thống quét các video được tải lên nền tảng và so sánh chúng với một cơ sở dữ liệu khổng lồ các tác phẩm có bản quyền (nhạc, video clip, v.v.). Nếu phát hiện trùng khớp, hệ thống sẽ tự động áp dụng các quy tắc bản quyền.
Công nghệ nhận diện người giống nhau được lấy cảm hứng trực tiếp từ mô hình đó, nhưng với cách tiếp cận khác. Thay vì theo dõi các bài hát hoặc đoạn nhạc có bản quyền, nó tìm kiếm sự trùng khớp giữa các video được tải lên và "dấu vân tay kỹ thuật số" của người thật . Dấu vân tay đó bao gồm các đặc điểm khuôn mặt, kiểu chuyển động và, trong nhiều trường hợp, đặc điểm giọng nói của họ.
Mỗi khi một video mới được tải lên, thuật toán của YouTube sẽ phân tích nội dung bằng cách sử dụng các kỹ thuật nhận dạng khuôn mặt và âm thanh kết hợp với các mô hình trí tuệ nhân tạo tạo sinh được đào tạo để phát hiện sự thao túng. Nếu hệ thống phát hiện điều gì đó đáng ngờ, nó sẽ gắn cờ video để xem xét và liên kết video đó với hồ sơ kỹ thuật số của người có thể đang bị mạo danh.
Trên thực tế, điều này cho phép các nạn nhân tiềm năng của deepfake có một bảng điều khiển nơi họ có thể tìm thấy nội dung sử dụng hình ảnh hoặc giọng nói của họ mà không được phép và từ đó, yêu cầu gỡ bỏ nội dung đó . Đây là một bước tiến rõ rệt từ cách tiếp cận "phản ứng" chỉ dựa trên báo cáo thủ công sang mô hình chủ động dựa trên quét tự động.
Quyền ưu tiên dành cho ngành giải trí
Một trong những bước phát triển lớn nhất là việc YouTube quyết định mở rộng công nghệ nhận diện người dùng tương tự này sang ngành công nghiệp giải trí . Các công ty quản lý tài năng, công ty quản lý nghệ sĩ và những người nổi tiếng mà họ đại diện giờ đây có thể sử dụng công cụ này để bảo vệ các nghệ sĩ của mình.
Nền tảng này đã hợp tác chặt chẽ với các công ty lớn trong lĩnh vực này, như CAA, UTA, WME và Untitled Management , để tinh chỉnh các thuật toán cho các tình huống thực tế. Mục tiêu là để công cụ này không chỉ hoạt động trong phòng thí nghiệm mà còn hiệu quả trong sử dụng hàng ngày, trong mọi điều kiện ánh sáng, chất lượng video và bối cảnh mà deepfake thường lan truyền.
Một chi tiết quan trọng là các nghệ sĩ và người nổi tiếng không cần phải có kênh YouTube để được hưởng sự bảo vệ này. Chỉ cần họ đăng ký trong hệ thống thông qua người đại diện hoặc trực tiếp, là đủ để nền tảng có thể tạo và duy trì hồ sơ kỹ thuật số của họ.
Cách tiếp cận này mở rộng phạm vi: nó không chỉ bảo vệ những người sáng tạo nội dung tải lên hàng ngày, mà còn cả những người nổi tiếng mà hình ảnh của họ có thể bị lợi dụng ngay cả khi không có sự hiện diện tích cực nào trên YouTube. Trên thực tế, trong nhiều trường hợp, deepfake dựa trên ảnh hoặc video đang lan truyền trên các mạng khác, nhưng cuối cùng lại bị lợi dụng trên nền tảng của Google.
Gia hạn thời gian bảo vệ cho các chính trị gia, nhà báo và quan chức nhà nước.
Công cụ phát hiện người dùng giả mạo không chỉ giới hạn trong lĩnh vực giải trí. YouTube ban đầu ra mắt công cụ này vào năm 2024 cho một nhóm nhỏ người dùng đặc biệt nhạy cảm , và theo thời gian đã mở rộng phạm vi phủ sóng sang các đối tượng có nguy cơ cao khác.
Đầu năm 2026, công ty thông báo rằng hệ thống này cũng sẽ được cung cấp cho các quan chức chính phủ, nhà báo và ứng cử viên chính trị . Những nhóm này là mục tiêu chính của các chiến dịch thông tin sai lệch, hình ảnh bị thao túng và video giả mạo được thiết kế để gây ảnh hưởng đến dư luận.
Trong bối cảnh này, chương trình Phát hiện sự tương đồng trở thành một công cụ quan trọng. Công nghệ này phân tích các khung hình và đoạn âm thanh để phát hiện xem hình ảnh của những cá nhân này có đang được sử dụng trong một đoạn phim ghép do AI tạo ra, có thể gây hiểu nhầm, làm tổn hại uy tín của họ hoặc bóp méo cuộc tranh luận công khai hay không.
Những người tham gia chương trình này sẽ nhận được thông báo khi nền tảng phát hiện trường hợp nghi ngờ mạo danh bằng trí tuệ nhân tạo. Tuy nhiên, việc xóa video không diễn ra tự động : những người bị ảnh hưởng phải yêu cầu xóa video một cách rõ ràng, và YouTube sẽ tiến hành phân tích thêm để xác minh ngữ cảnh và xác định xem chính sách của họ có bị vi phạm hay không.
Đăng ký và xác minh trong chương trình bảo vệ
Để tận dụng những tính năng nâng cao này, các nhân vật công chúng muốn tham gia chương trình phải trải qua quá trình đăng ký và xác minh . YouTube yêu cầu các cá nhân phải chứng minh danh tính của mình thông qua giấy tờ và tư liệu nghe nhìn.
Trên thực tế, người thụ hưởng được yêu cầu tải lên video xác minh và giấy tờ tùy thân chính thức để xác nhận danh tính. Với thông tin này, nền tảng sẽ xây dựng hồ sơ kỹ thuật số đáng tin cậy, sau đó các thuật toán sẽ sử dụng thông tin này để so sánh với nội dung do người dùng tải lên.
Bước này rất quan trọng để ngăn chặn việc lạm dụng hệ thống. Nếu không có quy trình xác minh mạnh mẽ, ai đó có thể cố gắng chiếm đoạt hình ảnh của người khác hoặc buộc xóa các video hợp pháp bằng cách cáo buộc mạo danh. Đó là lý do tại sao YouTube kết hợp xác minh thủ công với các quy trình kỹ thuật tự động trước khi kích hoạt chế độ bảo vệ.
Sau khi được xác nhận, người dùng tham gia chương trình có thể truy cập các công cụ tìm kiếm và báo cáo cụ thể , nơi liệt kê các video đáng ngờ và cung cấp các tùy chọn rõ ràng để bắt đầu quy trình khiếu nại và xóa nội dung.
Trí tuệ nhân tạo sáng tạo so với trí tuệ nhân tạo độc hại: hai mặt của hiện tượng này.
Tất cả những điều này cần được hiểu trong bối cảnh những nỗ lực không ngừng của YouTube nhằm thúc đẩy việc sử dụng trí tuệ nhân tạo một cách sáng tạo bởi các nhà sáng tạo nội dung. Bản thân nền tảng này đã bắt đầu cung cấp các công cụ để tạo ra hình đại diện có ngoại hình và giọng nói giống với YouTuber, các bộ lọc nâng cao và các tùy chọn chỉnh sửa thông minh.
Vấn đề là công nghệ cho phép bạn tạo hình đại diện thân thiện cho kênh của mình cũng có thể được sử dụng để tạo ra những hình ảnh giả mạo cực kỳ chân thực . Đó là lý do tại sao công ty đang phải cân bằng giữa hai điều: khuyến khích sự đổi mới, nhưng cần hạn chế những cách sử dụng vượt quá ranh giới pháp lý hoặc đạo đức.
Một ví dụ được bàn luận nhiều là trường hợp các bài hát lan truyền trên mạng có giọng hát giống với giọng của các nghệ sĩ nổi tiếng, chẳng hạn như bài hát được cho là của Bad Bunny do trí tuệ nhân tạo tạo ra hoàn toàn . Trên thực tế, nghệ sĩ này chưa từng thu âm bài hát đó, nhưng sự giống nhau về giọng hát quá rõ rệt đến nỗi nhiều người dùng tin rằng đó là giọng thật, và nó đã lan truyền mạnh mẽ trên mạng xã hội và các nền tảng video.
Những trường hợp như thế này đã gióng lên hồi chuông cảnh báo tại các hãng thu âm, công ty sản xuất âm nhạc và chính các nghệ sĩ, những người giờ đây có cơ chế để yêu cầu gỡ bỏ các bài hát và video bắt chước giọng nói hoặc hình ảnh của họ mà không được phép. Việc bảo vệ không còn giới hạn ở bản quyền truyền thống: quyền về danh tính và quyền hình ảnh giờ đây cũng được áp dụng.
Những nghĩa vụ mới dành cho người sáng tạo nội dung trên YouTube
Ngoài các công cụ phát hiện, YouTube đã cập nhật chính sách của mình để yêu cầu người sáng tạo nội dung phải công khai gắn nhãn nội dung do AI tạo ra hoặc chỉnh sửa , đặc biệt là khi đề cập đến các chủ đề nhạy cảm như bầu cử, y tế công cộng hoặc khủng hoảng nhân đạo.
Từ nay trở đi, các video sử dụng nhiều trí tuệ nhân tạo (AI) phải có nhãn hoặc cảnh báo rõ ràng để người xem biết rằng một số phần nội dung là do AI tạo ra. Điều này bao gồm cả việc sử dụng các công cụ dựa trên AI của YouTube và các ứng dụng của bên thứ ba.
Ví dụ, nền tảng này phân biệt giữa các video cho thấy ai đó nói hoặc làm điều mà họ chưa từng làm (một trường hợp deepfake điển hình) và các video tái hiện lại các sự kiện chưa từng xảy ra. Trong cả hai trường hợp, người tạo nội dung được yêu cầu phải ghi rõ rằng nội dung đó được tạo ra hoặc chỉnh sửa bằng kỹ thuật số.
Để tăng cường tính minh bạch này, trước đây Google đã yêu cầu các quảng cáo chính trị trên YouTube phải có cảnh báo khi chúng sử dụng nội dung do AI tạo ra. Giờ đây, chính sách này cũng được mở rộng sang nội dung tự nhiên trên các kênh khác.
Dream Screen và bộ nhớ đệm nội dung do AI tạo ra
Bên cạnh các chính sách gắn thẻ và hệ thống phát hiện nội dung tương tự, YouTube đã giới thiệu các công cụ như Dream Screen , được thiết kế đặc biệt để tạo nội dung ở các định dạng như Shorts và hình đại diện được hỗ trợ bởi AI . Tính năng này tạo ra hình nền và các yếu tố hình ảnh bằng AI, được thiết kế để làm cho các video ngắn trở nên hấp dẫn hơn.
Điều quan trọng cần lưu ý từ góc độ chống lại deepfake là nền tảng này đang tạo ra một loại "bộ nhớ đệm" hay bản ghi các nội dung do AI tạo ra . Việc xác định các nguồn tài nguyên này giúp dễ dàng kiểm tra sau này xem chúng có đang được tái sử dụng hoặc kết hợp một cách gian dối trong các video khác hay không.
Theo cách này, YouTube cố gắng cân bằng mọi thứ: một mặt, nó cung cấp cho người sáng tạo những công cụ mạnh mẽ để đổi mới; mặt khác, nó giám sát việc sử dụng các nguồn lực này để ngăn chặn chúng trở thành nguyên nhân gây ra làn sóng "rác AI" đe dọa làm bão hòa nền tảng.
Cách tiếp cận này cũng mở ra cơ hội cho công ty áp dụng các chính sách kiểm duyệt tự động tiên tiến hơn trong tương lai đối với các đoạn video được tạo ra hoàn toàn bằng AI mà không mang lại giá trị hoặc chỉ được sử dụng để lừa dối hoặc đưa thông tin sai lệch.
Quy trình báo cáo và xóa deepfake trên YouTube
Ngoài tính năng tự động phát hiện, YouTube đã triển khai một quy trình báo cáo cụ thể dành cho các video do AI tạo ra nhằm mạo danh người thật. Cơ chế này không chỉ dành cho người nổi tiếng; nó cũng có thể được sử dụng bởi những người dùng thông thường bị ảnh hưởng.
Đối với các nghệ sĩ và hãng thu âm của họ, chính sách mới cho phép họ yêu cầu gỡ bỏ các video deepfake bắt chước giọng nói hoặc hình ảnh của họ mà không có sự cho phép chính thức. Đây là một thay đổi đáng kể so với các giai đoạn trước đây, khi trọng tâm hầu như chỉ tập trung vào bản quyền.
Người dùng ẩn danh cũng không bị loại trừ. Bất kỳ ai phát hiện video nào sử dụng hình ảnh hoặc giọng nói của mình một cách giả tạo nhằm mục đích lừa dối hoặc quấy rối đều có thể bắt đầu quy trình khiếu nại. Nền tảng sẽ xem xét trường hợp và, nếu phù hợp với chính sách của mình, sẽ xóa nội dung hoặc thực hiện các biện pháp khác.
Mặt khác, chính cộng đồng cũng có thể đóng vai trò quan trọng bằng cách báo cáo nội dung đáng ngờ. Nếu nhiều người dùng gắn cờ một video là deepfake có khả năng gây hại, video đó sẽ có nhiều khả năng được đưa vào quy trình xem xét nhanh hơn và quyết định sẽ được đưa ra sớm hơn.
Cách ngăn chặn việc nội dung do AI tạo ra của bạn bị xóa
Rõ ràng, không phải tất cả nội dung do AI tạo ra đều nhằm mục đích mạo danh người khác hoặc lừa dối khán giả. Nhiều người sáng tạo thử nghiệm các công cụ này một cách sáng tạo , tạo ra các tác phẩm nhại lại hoặc mang tính giáo dục mà không có ý đồ xấu. YouTube cũng đặt ra các hướng dẫn cho việc này.
Nguyên tắc vàng để giảm nguy cơ bị xóa là tính minh bạch . Nếu video có chứa các cảnh quay được tạo ra bằng AI trông rất thật, người tạo video nên nêu rõ điều này: trong phần mô tả, trong thẻ từ khóa và, nếu có thể, trực tiếp trong video bằng cách sử dụng cảnh báo hoặc nhãn.
Nền tảng này khuyến nghị người tạo nội dung nên làm rõ nếu video mô tả các sự kiện chưa từng xảy ra , hoặc nếu có ai đó xuất hiện nói hoặc làm những điều mà họ thực sự chưa từng làm. Ngữ cảnh này giúp người xem hiểu được những gì họ đang xem và chứng minh rằng video không nhằm mục đích được trình bày như một tài liệu xác thực.
Hơn nữa, điều quan trọng là những người sử dụng giọng nói hoặc hình ảnh của bên thứ ba, ngay cả trong bối cảnh nhại lại, phải có sự cho phép rõ ràng khi kết quả có thể gây nhầm lẫn với nội dung thật hoặc gây thiệt hại đáng kể về danh tiếng.
Nếu người tạo nội dung bỏ qua các hướng dẫn này và lạm dụng việc sử dụng AI để tạo ra các video deepfake gây hiểu nhầm, họ không chỉ có nguy cơ bị xóa video mà còn phải đối mặt với các hình phạt nghiêm trọng hơn, chẳng hạn như hạn chế chức năng của kênh và thậm chí là đình chỉ kiếm tiền.
Hình phạt đối với những người vi phạm các chính sách mới.
Hậu quả đối với các kênh vi phạm chính sách về trí tuệ nhân tạo (AI) và video giả mạo (deepfake) của YouTube có thể khá nghiêm trọng. Khi phát hiện vi phạm rõ ràng, một trong những bước đầu tiên là xóa ngay lập tức nội dung bị ảnh hưởng , đặc biệt nếu nội dung đó liên quan đến thông tin sai lệch về các chủ đề nhạy cảm hoặc mạo danh.
Nếu vi phạm lặp lại, nền tảng có thể áp dụng các hình phạt nghiêm khắc hơn, chẳng hạn như đình chỉ các khoản thanh toán được tạo ra thông qua Chương trình Đối tác. Đối với nhiều người sáng tạo nội dung, điều này có nghĩa là mất đi một nguồn thu nhập quan trọng.
Trong những trường hợp nghiêm trọng và lặp đi lặp lại, hoặc khi một kênh liên tục tải lên các video giả mạo độc hại (deepfake) hoặc "nội dung rác" do AI tạo ra, YouTube có thể đóng kênh đó hoặc ngăn chặn việc tạo hồ sơ mới liên kết với cùng chủ sở hữu. Mục đích là để gửi một thông điệp rõ ràng rằng những hành vi này không được chấp nhận.
Với những biện pháp trừng phạt này, công ty đang cố gắng ngăn chặn cả những người sử dụng AI với mục đích xấu và những người sử dụng nó một cách vô trách nhiệm mà không cân nhắc đến tác động mà video của họ có thể gây ra đối với cuộc sống thực của những người bị ảnh hưởng.
Nhìn chung, sự kết hợp giữa công nghệ phát hiện người giống hệt mình, các chính sách minh bạch, công cụ báo cáo và các biện pháp trừng phạt kinh tế cho thấy việc lạm dụng deepfake đang ngày càng trở nên tốn kém trên nền tảng này.
Toàn bộ động thái này của YouTube phản ánh mức độ mà cuộc chiến chống lại deepfake đã trở thành trọng tâm của cuộc tranh luận kỹ thuật số. Nền tảng này muốn duy trì là nơi mà sự sáng tạo và trí tuệ nhân tạo có thể cùng tồn tại, nhưng bằng cách vạch ra những ranh giới rõ ràng chống lại việc mạo danh, thao túng và phát tán thông tin sai lệch. Sự thành công của các biện pháp này sẽ phụ thuộc không chỉ vào thuật toán của YouTube, mà còn vào trách nhiệm của những người sáng tạo nội dung và cộng đồng người dùng coi trọng tính xác thực cũng như tính giải trí.
