Sự phát triển mạnh mẽ của máy bay không người lái tự hành tích hợp trí tuệ nhân tạo đang làm thay đổi hoàn toàn cục diện an ninh, giám sát và thậm chí cả chiến tranh hiện đại. Những điều tưởng chừng như chỉ có trong khoa học viễn tưởng vài năm trước giờ đã trở nên phổ biến: máy bay không người lái có khả năng theo dõi người, tuần tra biên giới hoặc ghi lại chi tiết mọi chuyển động, với sự can thiệp tối thiểu của con người.
Trong thế giới công nghệ tiên tiến này, thật khó tin khi một vật dụng hàng ngày như chiếc ô lại có thể đánh lừa được một số hệ thống tinh vi. Một nhóm các nhà nghiên cứu tại Đại học California, Irvine (UC Irvine) đã chứng minh rằng, với một mô hình hình ảnh phù hợp, một chiếc ô đơn giản có thể "đánh lừa", thu hút và thậm chí vô hiệu hóa một số mẫu máy bay không người lái thương mại sử dụng tính năng theo dõi tự động dựa trên thị giác máy tính.
Sự trỗi dậy của máy bay không người lái tự hành và lý do tại sao chúng lại gây ra nhiều lo ngại đến vậy
Trong những năm gần đây, việc sử dụng máy bay không người lái (UAV) đã tăng vọt trên toàn thế giới. Chúng ta không chỉ còn nói về những chiếc máy bay không người lái nhỏ dùng để giải trí và quay những video ngoạn mục, mà còn là những nền tảng nghiêm túc hơn nhiều được sử dụng để giám sát đô thị, theo dõi cơ sở hạ tầng trọng yếu, kiểm soát biên giới và hỗ trợ các hoạt động của cảnh sát và quân đội.
Trong những tình huống như cuộc chiến giữa Nga và Ukraine, tầm quan trọng của máy bay không người lái đã trở nên rõ ràng. Có những mẫu máy bay không người lái cảm tử, thiết bị chuyên dụng để theo dõi mục tiêu, hệ thống kết nối bằng cáp quang để đảm bảo liên lạc ổn định, và ngày càng nhiều thiết bị tích hợp trí tuệ nhân tạo để tự đưa ra quyết định trong khi bay.
Khả năng tự hành này dựa trên việc sử dụng các cảm biến quang học tiên tiến và thuật toán thị giác máy tính cho phép máy bay không người lái nhận dạng người hoặc vật thể, theo dõi chúng và phản ứng với chuyển động của chúng mà không cần người điều khiển phải liên tục điều chỉnh quỹ đạo. Trong các sản phẩm tiêu dùng, đây là những gì được tiếp thị dưới dạng chức năng "theo dõi chủ động" hoặc "theo dõi động".
Vấn đề là, khi việc sử dụng các hệ thống này cho mục đích giám sát, tuần tra và an ninh ngày càng mở rộng , thì nguy cơ lạm dụng cũng tăng lên: quấy rối, gián điệp, xâm phạm quyền riêng tư hoặc theo dõi bí mật ở những nơi mà mọi người thậm chí không biết mình đang bị theo dõi.
Các nhà nghiên cứu và chuyên gia an ninh mạng từ lâu đã cảnh báo rằng việc bảo vệ các hệ thống này không thể chỉ giới hạn ở các thành phần điện tử (liên kết vô tuyến, liên lạc mã hóa, tường lửa). Khả năng nhận thức thị giác và các thuật toán trí tuệ nhân tạo đưa ra quyết định dựa trên những gì chúng "nhìn thấy" cũng có thể trở thành điểm yếu, và đó chính là lý do thí nghiệm chiếc ô kỳ lạ này xuất hiện.
Dự án FlyTrap: khi một chiếc ô trở thành vũ khí phòng thủ
Một nhóm các chuyên gia về an ninh và thị giác máy tính tại Đại học California, Irvine, đã quyết định không đi theo con đường truyền thống là thiết kế những máy bay không người lái ngày càng tinh vi và có khả năng tấn công cao hơn. Thay vào đó, họ đặt ra một câu hỏi khác: Liệu có thể phòng thủ chống lại máy bay không người lái tự hành bằng các vật thể đơn giản, mà không cần đến các thiết bị gây nhiễu tần số, tấn công mạng hoặc các thiết bị quân sự đắt tiền hay không?
Từ ý tưởng này, FlyTrap ra đời, một phương pháp tấn công vật lý chống lại các thuật toán theo dõi tự động dựa trên một mẫu đồ họa được thiết kế đặc biệt để đánh lừa hệ thống thị giác của máy bay không người lái. Thay vì vô hiệu hóa thiết bị bằng điện tử, mục tiêu là thao túng những gì nó "nghĩ" đang xảy ra trước camera của nó.
Các nhà nghiên cứu tập trung phân tích vào các máy bay không người lái sử dụng công nghệ theo dõi mục tiêu dựa trên thị giác máy tính ; tức là, các thiết bị phát hiện và theo dõi người hoặc vật thể dựa trên thông tin hình ảnh được camera thu thập. Trong số các mẫu được phân tích có một số mẫu rất phổ biến trên thị trường, chẳng hạn như DJI Mini 4 Pro, DJI Neo và HoverAir X1.
Sau khi nghiên cứu cách các hệ thống này diễn giải chuyển động của mục tiêu, nhóm nghiên cứu đã phát hiện ra một điểm yếu quan trọng: trong một số điều kiện nhất định, thuật toán có thể bị thao túng bằng cách cung cấp cho nó một mẫu hình ảnh được thiết kế cẩn thận nhằm thay đổi nhận thức của nó về khoảng cách và hướng chuyển động.
Mẫu họa tiết này, được đặt tên là FlyTrap, được in trên bề mặt của một chiếc ô thông thường. Kết quả là một vũ khí phòng thủ rẻ tiền và dễ tiếp cận đến bất ngờ chống lại máy bay không người lái tự hành, mà trên lý thuyết, rất khó để đánh bại nếu không có các phương tiện kỹ thuật tinh vi.
Thủ thuật đánh lừa thị giác bằng chiếc ô hoạt động như thế nào?
Cốt lõi của FlyTrap nằm ở cách các thuật toán theo dõi tự động, dựa trên mạng nơ-ron, diễn giải hình ảnh được chụp bởi camera của máy bay không người lái. Các hệ thống này phân tích hình ảnh từng khung hình một và tính toán cách mục tiêu trên màn hình di chuyển để xác định hướng và tốc độ của máy bay.
Thiết kế đồ họa được in trên chiếc ô khiến máy bay không người lái "nhận diện" một tình huống không đúng với thực tế: họa tiết được thiết kế sao cho hệ thống thị giác kết luận rằng mục tiêu đang di chuyển ra xa máy bay không người lái , trong khi trên thực tế, người cầm ô hầu như vẫn ở nguyên vị trí.
Đối mặt với sự hiểu sai này, phần mềm theo dõi sẽ thực hiện chức năng được lập trình sẵn: nó cố gắng giảm khoảng cách đến mục tiêu để giữ mục tiêu trong phạm vi theo dõi tối ưu. Nói cách khác, máy bay không người lái bắt đầu tiếp cận dần dần, liên tục điều chỉnh quỹ đạo của mình nhằm "bù đắp" cho khoảng cách được nhận biết.
Hành vi này tạo ra một lực hút tầm xa thực sự : thay vì làm mất phương hướng và khiến máy bay không người lái mất dấu vết, chiếc ô thực sự thu hút nó đến gần hơn. Thiết bị có thể đến rất gần người cầm ô đến mức nó trở thành mục tiêu dễ dàng để bắt giữ bằng lưới hoặc thậm chí là va chạm có kiểm soát.
Ưu điểm lớn của phương pháp này là nó không yêu cầu nhiễu điện từ hay truy cập vào phần mềm của máy bay không người lái . Không cần phải hack, chặn tín hiệu điều khiển hoặc sử dụng thiết bị quân sự. Tất cả những gì cần là một chiếc ô có thiết kế phù hợp để khai thác một điểm yếu rất cụ thể trong các thuật toán thị giác máy tính.
Thử nghiệm với máy bay không người lái thương mại và kết quả nghiên cứu
Để xác minh rằng ý tưởng này không chỉ là một sự tò mò trong phòng thí nghiệm, nhóm nghiên cứu của UC Irvine đã tiến hành các thí nghiệm có hệ thống với máy bay không người lái thương mại tích hợp các chức năng theo dõi tự động được sử dụng rộng rãi hiện nay.
Các nhà nghiên cứu đã chọn ba mẫu sản phẩm tiêu biểu từ thị trường tiêu dùng: DJI Mini 4 Pro , DJI Neo và HoverAir X1 . Tất cả đều có chế độ "theo dõi chủ động" hoặc "theo dõi động" được thiết kế để cho phép thiết bị theo dõi người dùng mà không cần họ liên tục điều khiển từ xa.
Trong các thử nghiệm, một người đứng ở khu vực trống trải với chiếc dù FlyTrap đang mở, trong khi máy bay không người lái kích hoạt chế độ theo dõi tự động mục tiêu đó. Hệ thống tự hành sau đó được phép hoạt động mà không cần điều chỉnh thủ công, quan sát phản ứng của nó với hình dạng đồ họa của chiếc dù.
Kết quả rất rõ ràng: trong ba mẫu máy bay không người lái được phân tích, phương pháp FlyTrap đã thu hút được máy bay đến khoảng cách rất ngắn, đủ để bắt giữ nó bằng lưới hoặc khiến nó đâm vào cấu trúc hoặc thiết bị khác nếu muốn.
Các nhà nghiên cứu đã lặp lại các thí nghiệm trong các điều kiện ánh sáng và thời tiết khác nhau, đạt được tỷ lệ thành công rất cao. Theo dữ liệu được trình bày tại các diễn đàn an ninh như hội nghị NDSS, hệ thống vẫn duy trì hiệu quả ngay cả khi có sự thay đổi về ánh sáng và môi trường xung quanh , củng cố tính khả thi thực tiễn của nó.
Là một phần của quy trình công bố thông tin có trách nhiệm, nhóm nghiên cứu đã thông báo cho các nhà sản xuất máy bay không người lái bị ảnh hưởng , bao gồm DJI và HoverAir, về lỗ hổng này trước khi công khai tất cả các chi tiết kỹ thuật. Mục tiêu là để các công ty có thời gian tìm hiểu các biện pháp giảm thiểu rủi ro hoặc cập nhật phần mềm nhằm tăng cường khả năng chống chịu của thuật toán trước loại tấn công vật lý này.
Rủi ro và các trường hợp sử dụng: từ an ninh công cộng đến quấy rối
Ngoài câu chuyện hài hước về việc có thể "săn đuổi" máy bay không người lái bằng ô dù, nghiên cứu của FlyTrap còn đặt ra những vấn đề nghiêm trọng liên quan đến sự an toàn và việc triển khai rộng rãi các hệ thống tự hành. Giáo sư Alfred Chen, đồng tác giả của nghiên cứu và là giáo sư khoa học máy tính tại Đại học UC Irvine, nhấn mạnh rằng việc theo dõi tự động là con dao hai lưỡi.
Một mặt, những chức năng này rất hữu ích cho các hoạt động đảm bảo an ninh công cộng, tuần tra biên giới hoặc giám sát cơ sở hạ tầng . Chúng cho phép máy bay không người lái giám sát các khu vực rộng lớn hoặc theo dõi nghi phạm mà không cần điều khiển liên tục, tiết kiệm nguồn lực và cải thiện thời gian phản ứng của các cơ quan chức năng.
Mặt khác, công nghệ tương tự cũng có thể được sử dụng cho những mục đích kém cao thượng hơn nhiều: quấy rối cá nhân, gián điệp, xâm phạm quyền riêng tư ở nơi công cộng hoặc tư nhân, theo dõi người trái phép, v.v. Khi bất cứ ai cũng có thể mua một chiếc máy bay không người lái có khả năng theo dõi tự động và sử dụng nó cho những mục đích đáng ngờ, thì sự cân bằng giữa an toàn và rủi ro trở nên phức tạp hơn.
Shaoyuan Xie, tác giả chính của nghiên cứu và cũng là một nhà khoa học máy tính, chỉ ra rằng việc một chiếc ô đơn giản có thể dễ dàng điều khiển hành vi của một số máy bay không người lái tự hành buộc chúng ta phải xem xét lại việc sử dụng các thiết bị này trong môi trường nhạy cảm. Nếu chúng dễ bị thao túng về mặt vật lý như vậy, có lẽ việc triển khai chúng nên bị hạn chế hoặc điều chỉnh trong các trường hợp mà việc vi phạm an ninh có thể gây ra hậu quả nghiêm trọng.
Hơn nữa, cuộc tấn công này không chỉ có thể được sử dụng để vô hiệu hóa các máy bay không người lái thù địch hoặc xâm phạm , mà còn để né tránh sự giám sát hợp pháp. Một nhóm có tổ chức có thể sử dụng các biến thể của mô hình FlyTrap để che giấu bản thân khỏi máy bay không người lái của cảnh sát hoặc quân đội, tạo ra các vùng bóng tối hoặc khiến máy bay tiếp cận quá gần và trở nên dễ bị tấn công.
Một cuộc tấn công vật lý làm dấy lên cuộc tranh luận mới về an ninh mạng máy bay không người lái.
Một trong những khía cạnh nổi bật nhất của vụ FlyTrap là nó liên quan đến một cuộc tấn công vật lý vào các thuật toán nhận thức , chứ không phải là một sự xâm nhập kỹ thuật số. Không có việc hack phần mềm, không có truy cập từ xa vào hệ thống, và không có sự can thiệp vào liên lạc vô tuyến. Mọi thứ đều xảy ra trong thế giới thực, ngay trước ống kính camera của máy bay không người lái.
Những loại lỗ hổng này, được gọi là các cuộc tấn công đối kháng vật lý, cho thấy rằng tính bảo mật của các hệ thống AI vượt xa phần mềm điều khiển và mạng dữ liệu. Nếu thuật toán diễn giải thực tế có thể bị đánh lừa bởi các mẫu hình ảnh trong môi trường, thì mắt xích yếu có thể là một thứ đơn giản như hình dạng của một chiếc ô.
Trong trường hợp của FlyTrap, mô hình này được thiết kế đặc biệt để khai thác những điểm yếu trong cách mạng lưới thần kinh tính toán chuyển động và khoảng cách của mục tiêu. Thay vì che giấu người, nó thao túng nhận thức để máy bay không người lái tin rằng người đó đang di chuyển ra xa.
Cách tiếp cận này nhấn mạnh rằng các biện pháp bảo mật tiêu chuẩn—mã hóa thông tin liên lạc, xác thực mạnh mẽ, kiểm soát truy cập—là không đủ để bảo vệ hệ thống UAS có chức năng tự hành . Việc tăng cường khả năng chống chịu của các thuật toán thị giác máy tính trước các mẫu hình ảnh độc hại cũng rất cần thiết.
Khi việc sử dụng máy bay không người lái trang bị trí tuệ nhân tạo ngày càng phổ biến trong môi trường đô thị, cơ sở hạ tầng trọng yếu và các hoạt động thực thi pháp luật , việc bỏ qua những rủi ro này có thể dẫn đến các sự cố nghiêm trọng. Vấn đề không chỉ là việc ai đó có thể bắn hạ một máy bay không người lái thương mại, mà còn là việc các chiến lược tương tự được áp dụng trong các bối cảnh nhạy cảm về mặt chiến lược hơn.
Các ứng dụng và hạn chế mang tính phòng thủ của phương pháp dù
Từ góc nhìn của công chúng, phát hiện của UC Irvine cũng cung cấp một công cụ phòng vệ tiềm năng với chi phí thấp . Về lý thuyết, một người bị máy bay không người lái theo dõi ở chế độ tự động có thể sử dụng một chiếc ô có họa tiết bẫy ruồi để thu hút và vô hiệu hóa thiết bị, luôn trong giới hạn pháp luật của quốc gia họ.
Khả năng này mở ra cuộc tranh luận về quyền tự vệ chống lại việc giám sát từ trên không , đặc biệt là trong các trường hợp quấy rối, gián điệp hoặc xâm phạm trái phép đời tư. Trước những công nghệ giám sát dường như nằm ngoài tầm với của người dân bình thường, một vật dụng đơn giản như chiếc ô trở thành một biện pháp đối phó dễ tiếp cận.
Tuy nhiên, chính nhóm nghiên cứu cũng cảnh báo rằng FlyTrap không phải là giải pháp thần kỳ áp dụng được cho mọi máy bay không người lái . Hiệu quả của nó phụ thuộc vào việc thiết bị sử dụng các thuật toán theo dõi dựa trên thị giác máy tính cụ thể và kích hoạt chế độ theo dõi tự động.
Hơn nữa, việc sao chép mô hình mà không hiểu sâu sắc cách mạng lưới thần kinh xử lý hình ảnh có thể không mang lại kết quả tương tự. Chỉ đơn giản in ra một thiết kế bắt mắt và mong đợi nó hoạt động là không đủ: sự thành công của phương pháp nằm ở việc tối ưu hóa toán học và thực nghiệm của mô hình đồ họa.
Cần phải xem xét cả khung pháp lý: việc bắn hạ hoặc thu giữ máy bay không người lái có thể bị quản lý hoặc thậm chí bị cấm, tùy thuộc vào quốc gia và loại hình hoạt động mà thiết bị đang thực hiện. Tuy nhiên, trước khi sử dụng bất kỳ kỹ thuật vô hiệu hóa nào, dù đơn giản đến đâu, điều cần thiết là phải nắm rõ các quy định hiện hành về hàng không và quyền riêng tư .
Điều rõ ràng là loại nghiên cứu này giúp gây áp lực lên các nhà sản xuất và cơ quan quản lý để cải thiện các tiêu chuẩn an toàn, nhằm ngăn chặn việc lạm dụng máy bay không người lái và ngăn chặn việc chúng bị điều khiển dễ dàng bằng vật thể vật lý.
Tóm lại, vụ việc FlyTrap cho thấy sự tinh vi về công nghệ của máy bay không người lái tự hành không làm cho chúng trở nên bất khả xâm phạm. Một chiếc ô với họa tiết phù hợp , kết hợp với sự hiểu biết tốt về cách trí tuệ nhân tạo tích hợp "nhìn" thế giới, có thể biến một cuộc dạo chơi đơn giản dưới mưa thành tình huống tồi tệ nhất đối với một chiếc máy bay không người lái tưởng rằng nó đang kiểm soát mọi thứ.
