Sự gia tăng liên tục các vụ lừa đảo và gian lận kỹ thuật số trên mạng xã hội và ứng dụng nhắn tin đã buộc các công ty công nghệ lớn phải cải thiện đáng kể các biện pháp bảo mật của mình. Ngày càng phổ biến việc tội phạm mạng cố gắng đánh cắp tài khoản, thông tin ngân hàng hoặc mạo danh các thương hiệu nổi tiếng thông qua các tin nhắn, quảng cáo và liên hệ thoạt nhìn có vẻ vô hại.
Trong bối cảnh này, Meta đang tăng cường chiến lược bảo mật của mình với thế hệ trí tuệ nhân tạo chống gian lận mới được áp dụng cho Facebook, WhatsApp và Messenger . Trọng tâm rất rõ ràng: cảnh báo người dùng trước khi họ rơi vào bẫy, giảm thiểu nguy cơ tiếp xúc với nội dung độc hại và gây khó khăn tối đa cho những kẻ lừa đảo hoạt động trên các nền tảng của mình.
Trí tuệ nhân tạo chống gian lận để ngăn chặn các vụ lừa đảo trên Meta.
Meta đang triển khai một bộ tính năng kết hợp trí tuệ nhân tạo trên thiết bị với phân tích trên máy chủ từ xa . Kiến trúc này cho phép, một mặt, tuân thủ mã hóa đầu cuối trong các dịch vụ như WhatsApp và Messenger, mặt khác, cung cấp thêm một lớp phát hiện nâng cao khi người dùng quyết định gửi nội dung đáng ngờ nào đó để xem xét.
Các công cụ này dựa trên các mô hình có khả năng phân tích văn bản, hình ảnh, liên kết và các mẫu hành vi . Mục tiêu là xác định mọi thứ, từ các quảng cáo gian lận sử dụng khuôn mặt người nổi tiếng mà không được phép đến các tin nhắn "hỗ trợ kỹ thuật" cố gắng lấy mã xác minh, cũng như các yêu cầu kết bạn từ các tài khoản giả mạo nhằm chiếm được lòng tin của nạn nhân.
Theo dữ liệu do công ty chia sẻ, vấn đề này có quy mô đáng kể: Meta tuyên bố đã vô hiệu hóa hàng triệu tài khoản và quảng cáo liên quan đến các mạng lưới lừa đảo có tổ chức trên Facebook, Instagram và WhatsApp, trong một số trường hợp liên kết với các trung tâm lừa đảo thực sự trải rộng khắp nhiều quốc gia.
Cuộc tấn công công nghệ này cũng dựa vào các nhóm đánh giá của con người làm việc song song với AI, để các mô hình được đào tạo bằng các ví dụ thực tế và giảm thiểu sai sót trong việc phân loại nội dung đáng ngờ.
WhatsApp: tường lửa chống lại việc chiếm đoạt tài khoản và các nhóm đáng ngờ
Đối với WhatsApp , trí tuệ nhân tạo chống gian lận của Meta tập trung vào một số phương thức tấn công phổ biến: chiếm đoạt tài khoản thông qua liên kết thiết bị , lừa đảo hỗ trợ kỹ thuật và lừa đảo trong các nhóm không xác định.
Một trong những tính năng mới quan trọng là hệ thống cảnh báo sẽ thông báo cho bạn khi ai đó cố gắng liên kết tài khoản của bạn với một thiết bị không được nhận dạng . Nếu phát hiện yêu cầu đáng ngờ, ứng dụng sẽ hiển thị thông tin như vị trí xuất phát của nỗ lực đó, cùng với cảnh báo rõ ràng rằng đó có thể là một trò lừa đảo. Điều này cho phép bạn ngăn chặn quá trình trước khi bên thứ ba có quyền truy cập hoàn toàn vào các cuộc trò chuyện của bạn.
Trí tuệ nhân tạo ( AI) cũng can thiệp vào các tình huống chia sẻ màn hình trong các cuộc gọi video với những người liên hệ không quen biết . Khi phát hiện ra mô hình rủi ro này, hệ thống sẽ tự động đưa ra cảnh báo, vì nhiều vụ lừa đảo "hỗ trợ kỹ thuật" dựa vào việc xem màn hình trực tiếp của người dùng để đánh cắp thông tin đăng nhập ngân hàng, mã xác thực một lần hoặc các thông tin nhạy cảm khác.
Ngoài ra, các nhóm mà người dùng tham gia mà không quen biết nhiều thành viên giờ đây sẽ hiển thị một bảng bảo mật phòng ngừa . Bảng này cung cấp thông tin chi tiết về nhóm, các mẹo để phát hiện các nỗ lực gian lận và tùy chọn rời nhóm mà không cần tương tác, đồng thời tắt thông báo cho đến khi người dùng xác nhận muốn ở lại.
Meta cũng đang thử nghiệm tính năng cảnh báo theo ngữ cảnh khi bắt đầu cuộc trò chuyện với các số điện thoại không có trong danh bạ của người dùng . Nếu hệ thống phát hiện các dấu hiệu điển hình của lừa đảo trực tuyến, đầu tư giả mạo hoặc yêu cầu tiền không rõ ràng, hệ thống sẽ khuyến nghị người dùng hết sức thận trọng và cung cấp tùy chọn chặn hoặc báo cáo liên hệ chỉ với một vài thao tác.
Facebook: Đang kiểm tra kỹ lưỡng các yêu cầu kết bạn và các trang "hỗ trợ" giả mạo.
Trên Facebook , trí tuệ nhân tạo chống gian lận tập trung vào hai mặt trận chính: các yêu cầu kết bạn đáng ngờ và các trang giả mạo dịch vụ khách hàng hoặc các thương hiệu đã có uy tín.
Khi nhận được yêu cầu kết bạn, nền tảng có thể hiển thị cảnh báo nếu phát hiện các yếu tố rủi ro: tài khoản có rất ít bạn chung, hồ sơ mới tạo, nguồn gốc địa lý không phù hợp với mạng lưới bạn bè của người dùng, hoặc hành vi phù hợp với các mô hình liên quan đến mạng lưới bot. Điều này cho phép người dùng đánh giá tốt hơn xem có nên chấp nhận, bỏ qua hoặc chặn yêu cầu trước khi tạo cơ hội cho kẻ lừa đảo tiềm năng.
Một mối lo ngại đáng kể khác là sự lan tràn của các trang và tài khoản hỗ trợ giả mạo nhằm lừa đảo người dùng đang tìm kiếm sự trợ giúp để khôi phục tài khoản hoặc giải quyết vấn đề. Meta tuyên bố đã có hành động chống lại hàng chục nghìn trang như vậy, thường yêu cầu thông tin đăng nhập, giấy tờ tùy thân hoặc thanh toán để "đẩy nhanh" quá trình khôi phục được cho là đã thực hiện.
Công ty cũng đang tăng cường các cơ chế xác minh nhà quảng cáo và phát hiện quảng cáo gian lận , bao gồm cả những quảng cáo sử dụng hình ảnh của người nổi tiếng, doanh nhân hoặc nhân vật công chúng mà không được phép. Trí tuệ nhân tạo (AI) so sánh khuôn mặt và xác định các thủ thuật chỉnh sửa lặp đi lặp lại được sử dụng để hợp pháp hóa các khoản đầu tư giả mạo, các chương trình khuyến mãi không tồn tại hoặc các sản phẩm không bao giờ được giao.
Vấn đề này đặc biệt nhạy cảm đối với các công ty và người sáng tạo nội dung ở Tây Ban Nha và phần còn lại của châu Âu, nơi việc sử dụng hình ảnh của các doanh nhân hoặc nhân vật nổi tiếng địa phương để thu hút nạn nhân không phải là hiếm gặp , gây ra sự nhầm lẫn và thiệt hại về danh tiếng khó có thể khắc phục.
Messenger: Tính năng phát hiện lừa đảo do người dùng cấu hình.
Ứng dụng nhắn tin Messenger thuộc sở hữu của Facebook có một tính năng cụ thể gọi là "Phát hiện lừa đảo ", có thể truy cập thông qua cài đặt quyền riêng tư và bảo mật. Sau khi được kích hoạt, tùy chọn này sẽ phân tích chi tiết hơn các cuộc trò chuyện được bắt đầu bởi các liên hệ không xác định.
Trí tuệ nhân tạo (AI) tìm kiếm các mẫu đặc trưng của các lời chào mời giả mạo : lời hứa làm việc từ xa yêu cầu thanh toán trước, đầu tư với lợi nhuận được đảm bảo, tin nhắn khẩn cấp yêu cầu tiền, hoặc các nỗ lực mạo danh nhân viên hỗ trợ của các công ty nổi tiếng. Nếu phát hiện điều gì bất thường, nó sẽ hiển thị cảnh báo về loại rủi ro có thể xảy ra và đề xuất chặn hoặc báo cáo người gửi.
Với sự đồng ý rõ ràng của người dùng, các tin nhắn được gắn cờ có thể được gửi đến máy chủ của Meta để phân tích thêm bằng trí tuệ nhân tạo . Bước này tạm thời phá vỡ mã hóa đầu cuối đối với nội dung cụ thể đó — một quyết định mà mỗi người dùng phải cân nhắc dựa trên mức độ chấp nhận rủi ro và mối quan ngại về quyền riêng tư của họ.
Trong khi đó, Messenger đã cải thiện hệ thống bảo vệ liên kết của mình . Tính năng Duyệt web an toàn, vốn đã phân tích URL trên chính thiết bị, giờ đây bao gồm thêm một lớp bảo vệ nâng cao, được kết nối với danh sách các trang web nguy hiểm được cập nhật liên tục . Mục tiêu là chặn truy cập vào các trang web lừa đảo hoặc tải xuống phần mềm độc hại mà không làm lộ danh tính người dùng hoặc toàn bộ lịch sử duyệt web.
Đối với các nhóm hỗ trợ, bán hàng hoặc dịch vụ khách hàng sử dụng Messenger làm kênh liên lạc thường xuyên, những cải tiến này cung cấp thêm một lớp bảo vệ chống lại các hành vi lừa đảo nhắm vào thương hiệu của họ , đồng thời tạo ra một môi trường an toàn hơn cho người dùng mà họ tương tác hàng ngày.
Trí tuệ nhân tạo ẩn bên trong
Các tính năng bảo mật mới của Meta dựa trên kiến trúc lai kết hợp hai phương pháp bổ sung cho nhau. Đầu tiên là phân tích trên thiết bị , hoạt động trực tiếp trên điện thoại di động hoặc máy tính của người dùng và tuân thủ mã hóa đầu cuối, vì nó không cần gửi nội dung đến máy chủ bên ngoài để phát hiện các mẫu rủi ro.
Phân tích cục bộ này tìm kiếm các dấu hiệu như nhận tin nhắn từ các số chưa lưu , cố gắng chia sẻ màn hình với những người không quen biết, những thay đổi đột ngột trong hành vi tài khoản hoặc sự xuất hiện của các liên kết trùng khớp với các báo cáo gian lận trước đó. Bằng cách hoạt động trên chính thiết bị, nó giảm lượng dữ liệu được gửi ra bên ngoài và cung cấp tuyến phòng thủ đầu tiên ngay lập tức.
Lớp thứ hai được kích hoạt khi người dùng chọn gửi nội dung để AI xem xét trên nền tảng đám mây . Trong trường hợp này, các tin nhắn hoặc mục được gắn cờ sẽ được hệ thống của Meta xử lý, sử dụng các mô hình phức tạp hơn để đánh giá xem những gì đang xảy ra có phù hợp với loại hình lừa đảo đã biết hay không. Nếu phân tích kết luận có rủi ro, nền tảng sẽ hiển thị giải thích về vụ lừa đảo tiềm năng và đề xuất các hành động cụ thể.
Công ty nhấn mạnh rằng, ngoài trí tuệ nhân tạo (AI), còn có các nhóm kiểm duyệt viên là con người, xem xét hàng triệu nội dung mỗi ngày . Yếu tố con người này cho phép họ, trong số những điều khác, tinh chỉnh các mô hình, xử lý các trường hợp nhạy cảm nhất và triệt phá các chiến dịch phối hợp quy mô lớn vượt ra ngoài những tin nhắn riêng lẻ.
Toàn bộ cơ chế này được bổ sung bằng các thỏa thuận với lực lượng an ninh và các bên khác trong lĩnh vực công nghệ, nhằm chia sẻ thông tin tình báo về các tên miền độc hại, mạng lưới tài khoản giả mạo và các chiến thuật mới nổi được các tổ chức tội phạm sử dụng.
Các loại hình lừa đảo chính mà AI của Meta đang cố gắng ngăn chặn
Các nền tảng meta là nơi sinh sôi nảy nở của nhiều loại hình gian lận kỹ thuật số . Các công cụ mới được thiết kế để phát hiện và ngăn chặn, trong số những loại hình khác, các loại lừa đảo phổ biến sau đây nhắm vào người dùng ở Tây Ban Nha và châu Âu:
- Các chiêu trò lừa đảo hỗ trợ kỹ thuật giả mạo: Những kẻ mạo danh dịch vụ hỗ trợ ngân hàng, tổng đài viên, hoặc thậm chí cả Meta để yêu cầu mã xác minh, mật khẩu hoặc quyền truy cập từ xa vào thiết bị.
- Gian lận chia sẻ màn hình: Các cuộc gọi video trong đó kẻ lừa đảo thuyết phục nạn nhân cho xem màn hình để lấy thông tin tài khoản ngân hàng, tin nhắn SMS chứa mã xác thực một lần hoặc thông tin đăng nhập cho các dịch vụ như ngân hàng trực tuyến hoặc cổng thanh toán.
- Những lời mời làm việc và học bổng không có thật: Các quảng cáo hoặc tin nhắn riêng tư hứa hẹn công việc dễ dàng hoặc lương cao đổi lấy khoản thanh toán ban đầu cho "các thủ tục" hoặc cung cấp thông tin cá nhân nhạy cảm.
- Các kế hoạch đầu tư và tiền điện tử: Các chiến dịch quảng cáo hứa hẹn lợi nhuận nhanh chóng và được đảm bảo, thường được hỗ trợ bởi việc sử dụng trái phép người nổi tiếng hoặc các doanh nhân có tiếng.
- Liên kết lừa đảo và độc hại: Các URL giả mạo các cổng thông tin hợp pháp—ngân hàng, nền tảng thương mại điện tử, dịch vụ công cộng—với mục đích đánh cắp thông tin đăng nhập hoặc cài đặt phần mềm độc hại vào thiết bị.
Sự kết hợp giữa giám sát tự động, danh sách đen các trang web nguy hiểm và cơ chế báo cáo của người dùng cho phép hệ thống nhanh chóng thích ứng với các biến thể mới của những trò lừa đảo này , vốn thường xuyên biến đổi để tránh bị phát hiện dễ dàng hơn.
Tác động đến người dùng, công ty và nhà sáng lập phụ thuộc vào Meta
Ngoài việc bảo vệ người dùng thông thường, các tính năng chống gian lận bằng trí tuệ nhân tạo mới còn có tác động trực tiếp đến các doanh nghiệp sử dụng Facebook, WhatsApp và Messenger làm cơ sở hạ tầng cơ bản cho hoạt động bán hàng, chăm sóc khách hàng hoặc xây dựng cộng đồng.
Một mặt, nếu một công ty sử dụng WhatsApp Business hoặc Messenger để liên lạc với khách hàng, tin nhắn của họ có thể kích hoạt cảnh báo nếu hệ thống nhận thấy chúng đáng ngờ , ví dụ như chứa nhiều liên kết hoặc yêu cầu dữ liệu nhạy cảm. Điều này đòi hỏi phải xem xét lại nội dung, giọng điệu và tần suất gửi tin nhắn để giảm thiểu cảnh báo sai và duy trì lòng tin của khách hàng.
Mặt khác, các công ty khởi nghiệp trong những lĩnh vực đặc biệt nhạy cảm — chẳng hạn như công nghệ tài chính, y tế kỹ thuật số hoặc dịch vụ pháp lý — lại nhận thấy ở những công cụ này một tín hiệu rõ ràng: bảo mật dựa trên AI không còn là một "tính năng bổ sung" mà đã trở thành một phần của những kỳ vọng tối thiểu đối với bất kỳ sản phẩm hoặc dịch vụ nào xử lý dữ liệu quan trọng.
Việc Meta ngày càng hợp tác với các đối tác công nghệ khác và các cơ quan công cộng cũng mở ra những cơ hội mới cho các công ty an ninh mạng , cho phép họ tích hợp các giải pháp của mình với hệ sinh thái phát hiện mối đe dọa của các nền tảng lớn hoặc cung cấp dịch vụ tư vấn cho các công ty nhỏ hơn.
Tóm lại, hiệu quả của các biện pháp này sẽ phụ thuộc vào việc cả người dùng và tổ chức áp dụng các thực hành tốt: kích hoạt các tính năng chống gian lận hiện có, cập nhật ứng dụng thường xuyên, cảnh giác với các tin nhắn không mong muốn và báo cáo bất kỳ hành vi đáng ngờ nào để cung cấp thông tin cho hệ thống phát hiện.
Với việc triển khai trí tuệ nhân tạo chống gian lận mới trên Facebook, WhatsApp và Messenger , Meta đang tiến một bước quan trọng hướng tới một môi trường kỹ thuật số khó khăn hơn đối với những kẻ gian lận và an toàn hơn một chút cho những người sử dụng dịch vụ của họ hàng ngày, từ người dùng cá nhân đến các công ty phụ thuộc vào các nền tảng này cho một phần thiết yếu trong hoạt động của họ.
