Sự xuất hiện của Deepfakes trên YouTube Nó đã hoàn toàn thay đổi diện mạo của video trực tuyến. Điều mà vài năm trước đây tưởng chừng chỉ là một thử nghiệm công nghệ đơn giản giờ đã trở thành một vấn đề lớn: các video bắt chước người nổi tiếng, chính trị gia hoặc người sáng tạo nội dung với độ chính xác đáng kinh ngạc, có khả năng lừa dối, thao túng hoặc hủy hoại danh tiếng chỉ trong vài giờ.
Đối mặt với thách thức này, YouTube đã quyết định nghiêm túc triển khai một giải pháp. một chiến lược quyết liệt hơn nhiều chống lại nội dung do AI tạo ra Những kẻ mạo danh người thật. Các công cụ mới, chính sách nghiêm ngặt hơn, hệ thống báo cáo cụ thể và sự hợp tác với ngành công nghiệp giải trí cùng các nhân vật công chúng quan trọng là một phần của chiến dịch nhằm hạn chế sự lan rộng của những kẻ mạo danh này.
Deepfake là gì và tại sao chúng lại là vấn đề trên YouTube?
Khi nói về deepfake, chúng ta đang đề cập đến các video, hình ảnh hoặc âm thanh được tạo ra hoặc chỉnh sửa bởi... trí tuệ nhân tạo tổng hợp Bắt chước khuôn mặt, giọng nói hoặc cử chỉ của một người thật. Trên YouTube, điều này thể hiện ở các video clip mà người nổi tiếng xuất hiện để nói hoặc làm điều gì đó chưa từng xảy ra, hoặc các bài hát được trình bày bằng giọng nói được sao chép của nghệ sĩ mà không có sự cho phép của họ.
Loại nội dung này có nhiều mục tiêu khả thi: từ... lừa dối và thông tin sai lệch trên diện rộng (Ví dụ, trong thời gian bầu cử), từ những trò giải trí thiếu trách nhiệm đơn thuần đến những cuộc tấn công trực tiếp vào danh tiếng của người nổi tiếng, chính trị gia hoặc nhân vật công chúng. Vấn đề lớn là, khi công nghệ ngày càng phát triển, việc phân biệt đâu là nội dung chân thực và đâu là nội dung do trí tuệ nhân tạo tạo ra ngày càng trở nên khó khăn.
Trong những năm gần đây, YouTube đã trở nên tràn ngập những nội dung mà chính CEO của nó mô tả là... “Nội dung rác” do AI tạo raTrong số đó, deepfake về người nổi tiếng nổi bật bởi tiềm năng gây hại của chúng: chúng không chỉ làm người dùng mệt mỏi khi tìm kiếm các video chất lượng, mà còn đe dọa tính hợp pháp, quyền đối với hình ảnh cá nhân và niềm tin vào nền tảng.
Các chuyên gia đã bắt đầu bàn luận về một cuộc xung đột nghiêm trọng với... danh tính kỹ thuật số và việc bảo vệ nhân vật công chúngBất kỳ ai có quyền truy cập vào các công cụ AI tương đối tiên tiến đều có thể tạo ra một video giả mạo diễn viên, nhạc sĩ hoặc chính trị gia trông rất đáng tin và tải lên YouTube. Nếu không có hệ thống phát hiện và phản hồi hiệu quả, thiệt hại về danh tiếng có thể rất lớn và khó khắc phục.
Phản hồi của YouTube: Hãy dùng AI để chống lại AI.
Trước tình huống này, YouTube đã chọn áp dụng logic của “Nếu bạn không thể đánh bại họ, hãy tham gia cùng họThay vì chỉ phản hồi các báo cáo thủ công, nền tảng này đã phát triển các hệ thống dựa trên trí tuệ nhân tạo để xác định các video giả mạo lạm dụng hình ảnh hoặc giọng nói của người thật.
Công ty đã thông báo về việc mở rộng hoạt động của mình. công nghệ phát hiện sự tương đồngCông cụ này được thiết kế để tự động nhận diện nội dung do AI tạo ra, sao chép khuôn mặt hoặc giọng nói của các cá nhân cụ thể. Công nghệ này không chỉ tìm kiếm những nội dung giả mạo rõ ràng: nó phân tích các mẫu khuôn mặt, âm sắc giọng nói và các đặc điểm riêng biệt để xác định xem một đoạn nội dung có thể là deepfake hay không.
Điều thú vị là YouTube kết hợp những tiến bộ công nghệ này với một chính sách bảo vệ nghiêm ngặt hơn nhiềuVấn đề không chỉ là tìm ra video, mà còn là cung cấp cho những người bị ảnh hưởng một kênh rõ ràng và tương đối nhanh chóng để yêu cầu gỡ bỏ video đó, đặc biệt khi có sự mạo danh, lừa dối hoặc sử dụng hình ảnh của họ một cách rõ ràng và lạm dụng.
Nỗ lực này xuất phát từ áp lực ngày càng tăng từ người dùng, nghệ sĩ, hãng thu âm, công ty quản lý tài năng và các lĩnh vực khác rất dễ bị ảnh hưởng bởi thông tin sai lệch. Tất cả họ đều đã thúc giục YouTube hành động trong một thời gian dài. các cơ chế hiệu quả để ngăn chặn các cuộc họp giả mạo và việc sử dụng trái phép hình ảnh hoặc giọng nói của họ.
Từ Content ID đến hệ thống phát hiện nội dung tương tự
Để hiểu cách thức hoạt động của chiến dịch tấn công mới này, việc nhìn lại quá khứ là rất hữu ích. YouTube đã sử dụng chiến thuật này trong nhiều năm. Nội dung IDĐây là một hệ thống quét các video được tải lên nền tảng và so sánh chúng với một cơ sở dữ liệu khổng lồ về các tác phẩm có bản quyền (nhạc, video clip, v.v.). Nếu phát hiện trùng khớp, hệ thống sẽ tự động áp dụng các quy tắc bản quyền.
Công nghệ phát hiện sự tương đồng được lấy cảm hứng trực tiếp từ mô hình đó, nhưng với một cách tiếp cận khác. Thay vì theo dõi các bài hát hoặc đoạn nhạc có bản quyền, nó... Tìm kiếm sự trùng khớp giữa các video đã tải lên và "dấu vết kỹ thuật số" của người thật.Dấu ấn đó bao gồm các đặc điểm trên khuôn mặt, kiểu dáng cử động và, trong nhiều trường hợp, cả đặc điểm giọng nói của họ.
Mỗi khi một video mới được tải lên, thuật toán của YouTube sẽ phân tích nội dung bằng các kỹ thuật sau: nhận dạng khuôn mặt và âm thanh Kết hợp với các mô hình AI tạo sinh được huấn luyện để phát hiện sự thao túng. Nếu hệ thống phát hiện điều gì đó đáng ngờ, nó sẽ gắn cờ video để xem xét và liên kết video đó với hồ sơ kỹ thuật số của người có thể đang bị mạo danh.
Trên thực tế, điều này cho phép các nạn nhân tiềm năng của deepfake có một bảng điều khiển nơi họ có thể xác định vị trí nội dung sử dụng hình ảnh hoặc giọng nói của họ mà không được phép, và từ đó, yêu cầu loại bỏ nóĐây là một bước tiến rõ rệt từ phương pháp "phản ứng" chỉ dựa vào việc tiếp nhận khiếu nại thủ công sang mô hình chủ động dựa trên việc quét tự động.
Quyền ưu tiên dành cho ngành giải trí
Một trong những bước phát triển lớn mới là YouTube đã quyết định mở rộng công nghệ nhận diện người dùng tương tự này sang... ngành công nghiệp giải tríCác công ty quản lý tài năng, công ty đại diện và các nghệ sĩ mà họ quản lý đã có thể sử dụng công cụ này để bảo vệ các nghệ sĩ mà họ đại diện.
Nền tảng này đã hợp tác chặt chẽ với các cơ quan lớn trong lĩnh vực này, chẳng hạn như CAA, UTA, WME và Untitled ManagementĐiều chỉnh các thuật toán cho phù hợp với các tình huống thực tế. Ý tưởng là công cụ này không chỉ hoạt động trong phòng thí nghiệm mà còn hiệu quả trong sử dụng hàng ngày, với mọi loại ánh sáng, chất lượng video và bối cảnh mà deepfake thường xuất hiện.
Một chi tiết quan trọng là các nghệ sĩ và người nổi tiếng. Họ không cần phải có kênh YouTube. Để được hưởng sự bảo vệ này, họ chỉ cần đăng ký vào hệ thống thông qua người đại diện hoặc trực tiếp, để nền tảng có thể tạo và duy trì hồ sơ kỹ thuật số của họ.
Cách tiếp cận này mở rộng phạm vi: nó không chỉ bảo vệ những người sáng tạo nội dung tải lên hàng ngày, mà còn cả những người nổi tiếng mà hình ảnh của họ có thể bị lợi dụng ngay cả khi không có sự hiện diện tích cực nào trên YouTube. Trên thực tế, trong nhiều trường hợp, deepfake dựa trên ảnh hoặc video đang lan truyền trên các mạng khác, nhưng cuối cùng lại bị lợi dụng trên nền tảng của Google.
Gia hạn thời gian bảo vệ cho các chính trị gia, nhà báo và quan chức nhà nước.
Công cụ phát hiện người giống nhau không chỉ giới hạn trong lĩnh vực giải trí. YouTube đã giới thiệu công cụ này lần đầu tiên vào năm 2024 cho một mục đích nào đó. một nhóm nhỏ người dùng đặc biệt nhạy cảmvà theo thời gian, phạm vi bảo hiểm của nó đã được mở rộng sang các đối tượng có rủi ro cao khác.
Đầu năm 2026, công ty thông báo rằng hệ thống này cũng sẽ có sẵn cho các quan chức chính phủ, nhà báo và ứng cử viên chính trịCác nhóm này là mục tiêu ưu tiên của các chiến dịch thông tin sai lệch, hình ảnh bị thao túng và video giả mạo được thiết kế để tác động đến dư luận.
Trong bối cảnh này, chương trình của Phát hiện sự giống nhau Nó trở thành một công cụ then chốt. Công nghệ này phân tích các khung hình và đoạn âm thanh để phát hiện xem hình ảnh của những người này có đang được sử dụng trong một đoạn phim ghép do AI tạo ra, có thể gây hiểu nhầm, làm tổn hại uy tín của họ hoặc bóp méo cuộc tranh luận công khai hay không.
Những người tham gia chương trình này sẽ nhận được cảnh báo khi nền tảng phát hiện trường hợp mạo danh tiềm tàng do trí tuệ nhân tạo gây ra. Tuy nhiên, Việc xóa video không diễn ra tự động.Những người bị ảnh hưởng phải yêu cầu gỡ bỏ nội dung đó một cách rõ ràng, và YouTube sẽ tiến hành phân tích bổ sung để kiểm tra ngữ cảnh và quyết định xem liệu chính sách của họ có bị vi phạm hay không.
Đăng ký và xác minh trong chương trình bảo vệ
Để được hưởng lợi từ các biện pháp tiên tiến này, các nhân vật công chúng muốn tham gia chương trình phải trải qua một quy trình nhất định. quy trình đăng ký và xác minhYouTube yêu cầu người dùng chứng minh danh tính của mình thông qua giấy tờ và tài liệu nghe nhìn.
Trên thực tế, người thụ hưởng được yêu cầu tăng thu nhập của họ lên một. Video xác minh và giấy tờ chứng nhận chính thức Những thông tin này cho phép xác nhận rằng họ thực sự là người mà họ tự nhận. Với thông tin này, nền tảng xây dựng một hồ sơ kỹ thuật số đáng tin cậy mà các thuật toán sau đó sử dụng để so sánh với nội dung do người dùng tải lên.
Bước này rất quan trọng để ngăn chặn việc lạm dụng hệ thống. Nếu không có quy trình xác minh mạnh mẽ, ai đó có thể cố gắng chiếm đoạt hình ảnh của người khác hoặc buộc xóa các video hợp pháp bằng cách cáo buộc mạo danh. Đó là lý do tại sao YouTube kết hợp xác minh thủ công với các quy trình kỹ thuật tự động trước khi kích hoạt chế độ bảo vệ.
Sau khi được xác thực, người dùng tham gia chương trình có thể truy cập. công cụ tìm kiếm và báo cáo cụ thểNơi hiển thị danh sách các video đáng ngờ và cung cấp các tùy chọn rõ ràng để bắt đầu quy trình khiếu nại và xóa nội dung.
Trí tuệ nhân tạo sáng tạo so với trí tuệ nhân tạo độc hại: hai mặt của hiện tượng này.
Tất cả những điều này cần được hiểu trong bối cảnh YouTube cũng đang thúc đẩy... sử dụng trí tuệ nhân tạo một cách sáng tạo Do chính những người sáng tạo ra nền tảng này cung cấp. Bản thân nền tảng đã bắt đầu cung cấp các công cụ để tạo hình đại diện có ngoại hình và giọng nói giống YouTuber, các bộ lọc nâng cao và các tùy chọn chỉnh sửa thông minh.
Vấn đề là công nghệ cho phép bạn tạo hình đại diện dễ thương cho kênh của mình cũng có thể được sử dụng để sản xuất. những màn bắt chước cực kỳ chân thựcĐó là lý do tại sao công ty phải giữ một ranh giới rất mong manh: họ khuyến khích sự đổi mới, nhưng đồng thời cũng cần ngăn chặn những hành vi vượt quá giới hạn pháp lý hoặc đạo đức.
Một ví dụ được bàn luận nhiều là trường hợp các bài hát lan truyền trên mạng mà giọng hát dường như thuộc về các nghệ sĩ nổi tiếng, chẳng hạn như giọng của một người được cho là... Bài hát của Bad Bunny được tạo ra hoàn toàn bằng trí tuệ nhân tạo.Trên thực tế, nghệ sĩ đó chưa từng thu âm bài hát đó, nhưng sự giống nhau về giọng hát quá lớn đến nỗi nhiều người dùng cho rằng đó là giọng thật và nó đã lan truyền rộng rãi trên mạng xã hội và các nền tảng video.
Những trường hợp như thế này đã gióng lên hồi chuông cảnh báo tại các hãng thu âm, công ty thu âm và chính các nghệ sĩ, những người hiện đang phải đối mặt với nhiều vấn đề. Các cơ chế yêu cầu gỡ bỏ bài hát và video Những người bắt chước giọng nói hoặc hình ảnh của họ mà không được phép. Việc bảo vệ không còn giới hạn ở bản quyền truyền thống: quyền về danh tính và hình ảnh cá nhân giờ đây cũng được áp dụng.
Những nghĩa vụ mới dành cho người sáng tạo nội dung trên YouTube
Ngoài các công cụ phát hiện, YouTube đã cập nhật chính sách của mình để yêu cầu người sáng tạo nội dung phải tuân thủ các quy định sau: Đánh dấu một cách minh bạch nội dung được tạo ra hoặc chỉnh sửa bởi AI.đặc biệt khi xử lý các vấn đề nhạy cảm như bầu cử, y tế công cộng hoặc khủng hoảng nhân đạo.
Từ nay trở đi, các video sử dụng trí tuệ nhân tạo (AI) ở mức độ đáng kể phải bao gồm những điều sau: nhãn hoặc thông báo rõ ràng Để người xem biết rằng một số phần nội dung là được tạo ra một cách giả lập. Điều này bao gồm việc sử dụng cả các công cụ dựa trên trí tuệ nhân tạo của YouTube và các ứng dụng của bên thứ ba.
Ví dụ, nền tảng này phân biệt giữa các video thể hiện... Ai đó nói hoặc làm điều gì đó mà họ chưa từng làm. (một trường hợp deepfake điển hình) và việc tái hiện các sự kiện chưa từng xảy ra. Trong cả hai trường hợp, người tạo nội dung đều được yêu cầu phải chỉ rõ rằng nội dung đó được tạo ra hoặc chỉnh sửa bằng kỹ thuật số.
Để tăng cường tính minh bạch này, Google trước đây đã yêu cầu rằng Các quảng cáo chính trị trên YouTube sẽ bao gồm cảnh báo. khi họ kết hợp nội dung được tạo ra bởi trí tuệ nhân tạo. Giờ đây, triết lý này cũng mở rộng đến nội dung tự nhiên của các kênh.
Dream Screen và bộ nhớ đệm nội dung do AI tạo ra
Cùng với các chính sách gắn thẻ và hệ thống phát hiện nội dung tương tự, YouTube đã giới thiệu các công cụ như... Màn hình trong mơ, được thiết kế đặc biệt để tạo nội dung ở các định dạng như Shorts và Avatar AITính năng này tạo ra hình nền và các yếu tố hình ảnh bằng trí tuệ nhân tạo, được thiết kế để làm cho các video ngắn trở nên bắt mắt hơn.
Điều đáng chú ý từ góc độ chống lại deepfake là nền tảng này đang tạo ra một loại... “Bộ nhớ đệm” hoặc bản ghi các tài liệu do AI tạo raViệc xác định các nguồn tài nguyên này giúp dễ dàng kiểm tra xem chúng có đang được tái chế hoặc kết hợp một cách gian dối trong các video khác hay không.
Theo cách này, YouTube cố gắng cân bằng hai mặt: một mặt, nó cung cấp cho người sáng tạo những công cụ mạnh mẽ để đổi mới; mặt khác, giám sát việc sử dụng các nguồn lực đó. để ngăn chặn chúng tiếp tay cho làn sóng "rác AI" đang đe dọa làm quá tải nền tảng.
Cách tiếp cận này cũng mở ra cơ hội cho công ty triển khai các chính sách kiểm duyệt tự động tiên tiến hơn trong tương lai. các đoạn video được tạo ra hoàn toàn bằng trí tuệ nhân tạo Những nội dung không mang lại giá trị hoặc chỉ được sử dụng để lừa dối hoặc cung cấp thông tin sai lệch.
Quy trình báo cáo và xóa deepfake trên YouTube
Ngoài tính năng phát hiện tự động, YouTube đã ra mắt một tính năng mới. quy trình khiếu nại cụ thể Đối với các video do AI tạo ra nhằm giả mạo người thật. Cơ chế này không chỉ dành cho người nổi tiếng: nó cũng có thể được sử dụng bởi những người dùng thông thường bị ảnh hưởng.
Đối với các nghệ sĩ và hãng thu âm của họ, chính sách mới cho phép họ... Yêu cầu xóa bỏ các video deepfake bắt chước giọng nói hoặc hình ảnh của bạn. mà không cần sự cho phép chính thức. Đây là một sự thay đổi đáng kể so với các giai đoạn trước, khi trọng tâm hầu như chỉ tập trung vào bản quyền.
Người dùng ẩn danh cũng không bị loại trừ. Bất kỳ ai phát hiện video nào sử dụng hình ảnh hoặc giọng nói của mình một cách giả tạo nhằm mục đích lừa dối hoặc quấy rối đều có thể bắt đầu quy trình khiếu nại. Nền tảng sẽ xem xét trường hợp và, nếu trường hợp đó nằm trong chính sách của mình, sẽ tiến hành xóa nội dung hoặc áp dụng các biện pháp khác.
Mặt khác, chính cộng đồng cũng có thể đóng vai trò quan trọng bằng cách báo cáo nội dung đáng ngờ. Nếu nhiều người dùng gắn cờ một video là deepfake có khả năng gây hại, video đó sẽ có nhiều khả năng được đưa vào hệ thống hơn. mạch kiểm tra tăng tốc và các quyết định được đưa ra nhanh hơn.
Cách ngăn chặn việc nội dung do AI tạo ra của bạn bị xóa
Rõ ràng, không phải tất cả nội dung do AI tạo ra đều nhằm mục đích mạo danh người khác hoặc lừa dối khán giả. Nhiều nhà sáng tạo thử nghiệm với các công cụ này theo cách mà... sáng tạo, châm biếm hoặc mang tính giáo dục không có ý đồ xấu. Đối với họ, YouTube cũng đặt ra một loạt các nguyên tắc.
Nguyên tắc vàng để giảm thiểu rủi ro khi rút tiền là: minh bạchNếu video có chứa các cảnh quay được tạo ra bằng trí tuệ nhân tạo (AI) mang tính chân thực, tác giả nên ghi rõ điều này: trong phần mô tả, trong các thẻ từ khóa, và nếu có thể, trực tiếp trong chính đoạn phim thông qua các thông báo hoặc nhãn.
Nền tảng này khuyến nghị người tạo nội dung nên làm rõ liệu video có thể hiện điều gì đó tương tự hay không. những sự kiện chưa từng xảy raHoặc nếu ai đó xuất hiện nói hoặc làm những việc mà họ chưa từng thực sự làm. Bối cảnh này giúp người xem hiểu được những gì họ đang thấy và chứng minh rằng không có ý định biến đoạn phim ghép này thành một tài liệu xác thực.
Hơn nữa, điều quan trọng là những người sử dụng giọng nói hoặc hình ảnh của bên thứ ba, ngay cả trong bối cảnh nhại lại, cũng phải tuân thủ các quy định sau: ủy quyền rõ ràng khi kết quả có thể bị nhầm lẫn với nội dung thực hoặc gây thiệt hại đáng kể về danh tiếng.
Nếu người tạo nội dung bỏ qua các hướng dẫn này và lạm dụng việc sử dụng AI để tạo ra các deepfake lừa đảo, họ không chỉ tự đặt mình vào nguy cơ mà còn gặp rủi ro. xóa videonhưng cũng bao gồm cả các biện pháp trừng phạt nghiêm trọng hơn, chẳng hạn như hạn chế chức năng của kênh và thậm chí là đình chỉ việc kiếm tiền.
Hình phạt đối với những người vi phạm các chính sách mới.
Hậu quả đối với các kênh không tuân thủ các quy tắc của YouTube về trí tuệ nhân tạo và video giả mạo (deepfake) có thể khá nghiêm trọng. Khi phát hiện vi phạm rõ ràng, một trong những biện pháp đầu tiên là... loại bỏ trực tiếp nội dung bị ảnh hưởngđặc biệt nếu đó là thông tin sai lệch về các chủ đề nhạy cảm hoặc liên quan đến việc mạo danh.
Nếu hành vi vi phạm lặp lại, nền tảng có thể áp dụng các hình phạt nghiêm khắc hơn, chẳng hạn như: đình chỉ thanh toán tiền tệ Những nội dung này được tạo ra thông qua Chương trình Đối tác. Đối với nhiều người sáng tạo nội dung, điều này có nghĩa là mất đi một nguồn thu nhập quan trọng.
Trong những trường hợp nghiêm trọng và lặp đi lặp lại, hoặc khi kênh này thường xuyên tải lên các video deepfake độc hại hoặc "nội dung rác" do AI tạo ra, YouTube có thể sẽ có biện pháp xử lý. Đóng kênh hoặc chặn việc tạo hồ sơ mới. Có liên hệ với cùng một chủ sở hữu. Ý tưởng là để gửi một thông điệp rõ ràng rằng những hành vi như vậy là không được chấp nhận.
Với những biện pháp trừng phạt này, công ty đang cố gắng ngăn chặn cả những người sử dụng AI với mục đích xấu và những người sử dụng nó một cách vô trách nhiệm mà không cân nhắc đến tác động mà video của họ có thể gây ra đối với cuộc sống thực của những người bị ảnh hưởng.
Nhìn chung, sự kết hợp giữa công nghệ phát hiện người dùng giả mạo, chính sách minh bạch, công cụ tố giác và các biện pháp trừng phạt kinh tế tạo nên một bức tranh trong đó... Lạm dụng công nghệ deepfake ngày càng trở nên tốn kém. trong nền tảng.
Toàn bộ động thái này của YouTube phản ánh mức độ mà cuộc chiến chống lại deepfake đã trở thành trọng tâm của cuộc tranh luận kỹ thuật số. Nền tảng này muốn duy trì là nơi mà sự sáng tạo và trí tuệ nhân tạo có thể cùng tồn tại, nhưng bằng cách vạch ra những ranh giới rõ ràng chống lại việc mạo danh, thao túng và phát tán thông tin sai lệch. Sự thành công của các biện pháp này sẽ phụ thuộc không chỉ vào thuật toán của YouTube, mà còn vào trách nhiệm của những người sáng tạo nội dung và cộng đồng người dùng coi trọng tính xác thực cũng như tính giải trí.
