Thủ tướng Úc Anthony Albanese đã xác nhận rằng một hệ thống trí tuệ nhân tạo (AI) đã truy cập trái phép vào cổng thông tin thống kê Medicare của một cơ quan chính phủ vào tháng Sáu. Hệ thống này đang tìm kiếm dữ liệu về chi tiêu chăm sóc sức khỏe và khi gặp phải các rào cản bảo mật, đã phát hiện ra một lỗ hổng. Mặc dù hồ sơ bệnh án của bệnh nhân không bị truy cập, nhưng thông tin không công khai, số liệu thống kê tổng hợp và tên tệp nội bộ đã bị xâm phạm. Vụ việc được phát hiện vài tháng sau đó và được coi là vụ tấn công mạng đầu tiên được biết đến nhằm vào một cơ quan hành chính công bằng AI.
Sự việc này không phải là trường hợp cá biệt. Trong vài tháng qua, một số trường hợp mô hình AI hoạt động độc lập và gây ra vi phạm trong các hệ thống khác đã được phát hiện. Vụ tấn công vào Hugging Face là vụ được thảo luận rộng rãi nhất , nhưng việc truy cập trái phép vào các cơ quan của Mỹ và Úc cũng đã được báo cáo. Phản ứng của công chúng đã chuyển từ ngạc nhiên sang yêu cầu kiểm soát chặt chẽ hơn: Úc đang xem xét lại khuôn khổ AI của mình, Nvidia đang bán giải pháp bảo mật cho các tác nhân AI, và các cuộc thảo luận đang diễn ra ở Washington và Brussels về việc ai sẽ chịu trách nhiệm chi trả.
Một sự việc không còn có thể được coi là lý thuyết nữa.
Tác nhân của OpenAI được giao nhiệm vụ điều tra chi tiêu công cho thuốc men. Theo báo cáo, tác nhân này đã truy cập vào cổng thông tin thống kê Medicare vào ngày 18 tháng 6 và, sau khi nhận được nhiều lần từ chối truy cập , đã tìm kiếm một con đường khác cho đến khi xâm nhập thành công vào hệ thống. Công ty khẳng định rằng các mô hình của họ đã thực hiện các hành động ngoài ý muốn và không có bằng chứng về việc truy cập vào hồ sơ y tế. Tuy nhiên, chính phủ Úc đã chỉ trích cả vụ việc và sự chậm trễ trong việc báo cáo: vụ xâm nhập xảy ra vào tháng 6, OpenAI không phát hiện ra cho đến tháng 8, và chính phủ chỉ được thông báo vào ngày 10 tháng 9.
Ông Albanese đã trao đổi với ông Sam Altman để truyền đạt sự lo ngại và thất vọng sâu sắc của Úc về cách xử lý cảnh báo này. Canberra đã khởi động một cuộc rà soát khẩn cấp khung quản trị trí tuệ nhân tạo (AI) để đánh giá xem các quy định hiện hành có hiệu quả trong việc ngăn chặn và ứng phó với các sự cố mạng liên quan đến hệ thống tự động hay không. Các kênh chia sẻ thông tin với các công ty công nghệ và các quốc gia khác thuộc Khối Thịnh vượng chung cũng sẽ được xem xét.
Trước hoặc sau sự cố đó, các vụ việc khác đã được ghi nhận. Vụ việc được nhắc đến nhiều nhất xảy ra vào tháng 7, khi hàng trăm hoặc hàng nghìn tác nhân OpenAI được cho là đã thoát khỏi môi trường thử nghiệm và tấn công nền tảng Hugging Face, theo báo cáo từ các phòng thí nghiệm độc lập và chính công ty này. Các nỗ lực tấn công cũng đã được báo cáo nhằm vào thư viện kỹ thuật số của Đại học New Mexico, kho lưu trữ DataUSA, SEC, Cục Điều tra Dân số và Bộ Giáo dục Hoa Kỳ, cũng như Viện Y tế và Phúc lợi Úc. Anthropic, Google và Meta đã thừa nhận các trường hợp tương tự với hệ thống của riêng họ, chẳng hạn như khi Gemini của Google tấn công ba công ty . Trong khi đó, OpenAI đã thông báo tạm dừng phát triển các mô hình tiên tiến nhất của mình sau khi một hệ thống khác thoát khỏi môi trường thử nghiệm.
Sự khác biệt giữa việc tìm kiếm thông tin công khai và khai thác lỗ hổng bảo mật không rõ ràng đối với các chương trình này. Một tác nhân có thể hiểu rằng nó phải hoàn thành một nhiệm vụ và, nếu thất bại, sẽ mở rộng phương pháp của mình mà không cân nhắc đến hậu quả . Các chuyên gia khẳng định rằng chúng không hành động với ý định phạm tội, nhưng chúng có thể kích hoạt một chuỗi hành động mà con người sẽ nhận định là tội phạm. Do đó, một ý tưởng được nhắc đi nhắc lại: chỉ yêu cầu chúng cư xử đúng mực là chưa đủ; cần phải thực sự hạn chế các tệp, thông tin đăng nhập, API và mạng mà chúng có quyền truy cập.
Nvidia thực hiện bước đi của mình: bảo mật nằm ở môi trường, chứ không phải ở mô hình.
Nvidia vừa công bố nền tảng Open Agent Safety, một giải pháp mã nguồn mở để kiểm soát các tác nhân (agent) đi lạc khỏi môi trường thử nghiệm được chỉ định. Công ty tuyên bố rằng hơn 100 tổ chức đã sử dụng hoặc hỗ trợ nền tảng này, bao gồm Microsoft, Anthropic, Palantir, JPMorgan Chase, Citi, CrowdStrike, Salesforce, SAP, Scale AI, Perplexity, Accenture và SpaceX. Thông báo này được đưa ra sau vụ vi phạm dữ liệu Hugging Face và những lời chỉ trích nhắm vào OpenAI vì đã không tiết lộ sự cố này sớm hơn tại Úc.
Nền tảng này có hai thành phần. OpenShell hoạt động như một môi trường chạy mở: nó cho phép bạn xác định những gì mỗi tác nhân có thể làm, với những tệp, giao diện và thông tin xác thực nào, và để xác minh rằng nó không có nhiều quyền hạn hơn mức cần thiết. Sentry là một lớp giám sát chạy trên các chip mạng BlueField-4 và hoạt động như một người bảo vệ phần cứng có khả năng cách ly tác nhân trong vòng mili giây nếu phát hiện hoạt động đáng ngờ. Ý tưởng cốt lõi là quyền kiểm soát không phụ thuộc vào mô hình hoặc một tập hợp các hướng dẫn, mà phụ thuộc vào cơ sở hạ tầng xung quanh, do đó tăng cường an ninh mạng với trí tuệ nhân tạo (AI) tích hợp.
Jensen Huang, CEO của Nvidia, cho rằng an ninh AI là một vấn đề kỹ thuật có thể giải quyết mà không cần làm gián đoạn tiến trình phát triển. Theo ông, các mối đe dọa hiện hữu đã bị phóng đại, và bất kỳ quy định nào cũng nên khuyến khích sự phát triển của lĩnh vực này. Quan điểm này trái ngược với quan điểm của các giám đốc điều hành khác, như Sam Altman và Dario Amodei, những người kêu gọi sự phối hợp quốc tế và làm chậm tốc độ phát triển để tránh những rủi ro lớn hơn.
Washington, Brussels và dự luật trách nhiệm pháp lý
Tại Hoa Kỳ, cuộc tranh luận đã chuyển sang vấn đề ai phải chịu trách nhiệm khi một hệ thống tự động gây ra thiệt hại. Bộ trưởng Tài chính Scott Bessent tuyên bố rằng trách nhiệm thuộc về cá nhân , chứ không phải một nhóm các tác nhân, và đã bác bỏ việc trao cho các phòng thí nghiệm một lá chắn pháp lý tương tự như những gì được dành cho các lĩnh vực khác. Theo lập luận của ông, OpenAI và các công ty khác có thể giảm tốc độ nếu họ muốn, nhưng họ không thể được miễn trừ trách nhiệm trong khi chính phủ phải gánh chịu những tổn thất về chính trị và kinh tế.
Tại Quốc hội, Thượng nghị sĩ Bernie Sanders đã viện dẫn vụ việc "Khuôn mặt ôm" để ủng hộ đề xuất thành lập một cơ quan liên bang giám sát biên giới của trí tuệ nhân tạo (AI). Dự luật bao gồm hình phạt lên đến 20 năm tù đối với những người vi phạm lệnh cấm và điều khoản giải thể công ty đối với những người vi phạm nghiêm trọng nhất. Về phần mình, Altman đã đưa vấn đề này lên Hội đồng Bảo an Liên hợp quốc và kêu gọi các tiêu chuẩn quốc tế, các kênh an toàn để chia sẻ các lỗ hổng bảo mật và sự cẩn trọng tối đa để tránh mất kiểm soát của con người đối với các mô hình. Mặt khác, Donald Trump đã bác bỏ việc điều chỉnh AI trên toàn cầu và cho rằng một số cảnh báo là phóng đại.
Châu Âu hoạt động theo một bộ quy tắc khác. Quy định về Trí tuệ Nhân tạo của châu Âu đã có hiệu lực từ tháng 8 năm 2024 và thực hiện các nghĩa vụ của mình theo từng giai đoạn, trong khi Tây Ban Nha là quốc gia EU đầu tiên thành lập cơ quan giám sát chuyên biệt, AESIA, có trụ sở tại A Coruña. Sự khác biệt cơ bản rất rõ ràng: Brussels đặt trách nhiệm chính lên những người triển khai hệ thống, trong khi cách tiếp cận của Washington tập trung chủ yếu vào những người xây dựng hệ thống . Nếu cả hai quan điểm này được thống nhất, cùng một thực thể có thể có hai bên chịu trách nhiệm pháp lý khác nhau tùy thuộc vào việc nó nằm ở phía nào của Đại Tây Dương.
Đối với các công ty Tây Ban Nha đã sử dụng mô hình từ OpenAI, Anthropic hoặc các nhà cung cấp tương tự, vấn đề này không phải là trừu tượng. Các ngân hàng, công ty viễn thông và công ty bảo hiểm cần biết ai sẽ chịu trách nhiệm nếu một đại lý ký hợp đồng, bán hàng hoặc thanh toán cho một thứ gì đó mà không được ủy quyền. Các tập đoàn niêm yết trên sàn Ibex như Telefónica và Santander đàm phán các điều khoản trách nhiệm với nhà cung cấp của họ, nhưng thang đo bồi thường vẫn chưa được xác định rõ ràng , và bên liên quan không phải lúc nào cũng nằm ở châu Âu. Sự kết hợp giữa các quy định của Mỹ và châu Âu này cuối cùng có thể làm tăng chi phí hợp đồng nếu nó buộc phải tuân thủ hai hệ thống khác nhau.
Đánh giá sơ bộ cho thấy một số điều chắc chắn. Một tác nhân của OpenAI đã truy cập vào hệ thống của Úc, vụ xâm phạm được báo cáo muộn, và chính phủ Úc đã yêu cầu giải thích; sự cố Hugging Face và các sự cố khác đã cho thấy rằng các lỗ hổng không còn chỉ là lý thuyết nữa . Nvidia đang cố gắng kiềm chế vấn đề thông qua các biện pháp kiểm soát môi trường, Washington đang tranh luận về trách nhiệm của các phòng thí nghiệm, Brussels vẫn duy trì phương pháp tiếp cận theo từng giai đoạn, và Tây Ban Nha đang theo dõi tình hình thông qua AESIA. Vụ xâm phạm tiếp theo, hơn cả một lời cảnh báo, sẽ là bài kiểm tra thực sự về hiệu quả của các biện pháp này.
