Kỹ sư để tác nhân AI vượt quyền, xâm nhập đối thủ

Nhân viên startup Railway đã để tác nhân vượt quyền xâm nhập hệ thống đối thủ Primcloud, làm dấy lên câu hỏi về trách nhiệm pháp lý thời AI.

Theo Business Insider, mọi chuyện bắt đầu bằng lời cáo buộc từ Josh Manders, người sáng lập nền tảng lưu trữ đám mây Primcloud. Trên X hôm 3/11, Manders đặt câu hỏi tại sao Jake Runzer, một kỹ sư của Railway (cũng là một nhà cung cấp dịch vụ đám mây), đã “cố gắng xâm nhập” vào cơ sở hạ tầng của Primcloud.

Sau đó, CEO Railway Jake Cooper xác nhận nhân viên của mình đã thực hiện vụ xâm nhập. “Tôi nghĩ Jake đang thử nghiệm liên quan đến một số vấn đề về xác thực hai lớp qua điện thoại (RN), hoặc xác thực danh tính lần đầu trên các nhà cung cấp khác nhau”, Cooper viết, gắn thẻ Runzer.

“Đúng là tôi đấy”, Runzer phản hồi. Ông khẳng định không có ý đồ xấu, thêm rằng đã triển khai một số tác nhân AI để đăng ký tài khoản và kiểm thử khả năng hoạt động trên các nền tảng tương tự.

Dù vậy, Runzer sau đó thừa nhận phải dừng công cụ tự động hóa sau khi nhận thấy các tác nhân AI bắt đầu “chệch hướng và vượt quá tầm kiểm soát”. Theo kỹ sư này, hệ thống kiểm soát mà mình xây dựng không còn đảm bảo các tác nhân hoạt động đúng mục tiêu ban đầu.

Bài đăng của Runzer nhanh chóng lan truyền với hơn một triệu lượt xem cùng hàng trăm bình luận. Nhiều người lên án hành động tự ý xâm nhập hệ thống của doanh nghiệp khác trái phép, trong khi số khác đặt câu hỏi về tính hợp pháp của việc sử dụng tác nhân AI tìm cách truy cập hạ tầng đối thủ khi chưa có sự đồng ý.

Cooper sau đó lên tiếng xin lỗi, tuyên bố Railway sẽ cấm nhân viên sử dụng mô hình AI để kiểm thử các tổ chức bên ngoài. Ông đăng bài viết chi tiết hơn, nêu cách Runzer tự phát triển tác nhân AI để “chủ động xác định và báo cáo các chương trình tìm lỗi bảo mật trong cộng đồng rộng lớn hơn”. Công cụ chạy mô hình DeepSeek của Trung Quốc, “chỉ được sử dụng một lần” và “đã chủ động dừng trong vòng 15 phút sau khi bắt đầu”.

“Railway không dung túng những hành động này. Chúng tôi xây dựng môi trường kiểm thử bảo mật nội bộ với các quy định nghiêm ngặt. Khi cần công bố lỗ hổng, công ty tuân thủ đầy đủ nguyên tắc tiết lộ có trách nhiệm”, Cooper viết, thêm rằng đã làm việc trực tiếp với nhân viên liên quan, áp dụng biện pháp xử lý và siết chặt quy tắc ứng xử nhằm ngăn những sự việc tương tự.

Manders bác bỏ cách giải thích của Railway. Ông khẳng định Primcloud không có chương trình thưởng tìm lỗi bảo mật. Theo chính sách sử dụng của nền tảng, mọi hành vi thăm dò, quét hoặc kiểm tra lỗ hổng trên hệ thống đều bị xem là vi phạm an ninh.

Hiện chưa rõ Manders có khởi kiện Railway hay không.

Nhiều ý kiến cho rằng vấn đề đã vượt khỏi giới hạn của xâm nhập thông thường, đặt ra câu hỏi pháp lý lớn của kỷ nguyên AI: Nếu một tác nhân tự chủ thực hiện hành vi vi phạm pháp luật, ai phải chịu trách nhiệm, người sử dụng, doanh nghiệp phát triển mô hình hay đơn vị cung cấp công cụ?.

Theo TechCrunch, đây cũng là vấn đề khiến giới luật sư gặp khó khăn, đặc biệt sau vụ tấn công mạng liên quan OpenAI và Hugging Face hồi tháng 7. Do các tác nhân AI có thể tự thực hiện nhiều bước tự chủ không cần con người can thiệp liên tục, việc xác định trách nhiệm trong từng hành vi trở nên phức tạp.

Mark Rasch, cố vấn pháp lý tại công ty tư vấn an ninh mạng Unit 221B, cho biết nếu Primcloud khởi kiện, cơ quan công tố cần chứng minh hai yếu tố: tác nhân AI thực sự tìm cách truy cập trái phép vào một hệ thống máy tính khác và người dùng có ý định để nó thực hiện hành vi. Trong đó, việc chứng minh ý định của người dùng đặt ra nhiều thách thức. Chẳng hạn, với chương trình thưởng tìm lỗi bảo mật (bug bounty), doanh nghiệp cho phép các nhà nghiên cứu kiểm tra hệ thống để phát hiện lỗ hổng. Người tham gia có thể chủ động tìm cách truy cập vào những khu vực dễ bị tấn công nhưng không có ý định vi phạm pháp luật.

Khía cạnh phát sinh khi tác nhân AI tự đưa ra quyết định vượt khỏi phạm vi kiểm thử. Rasch đánh giá, sau khi tìm ra phương thức xâm nhập có thể hoạt động, AI có thể tự thử nghiệm mà không cần người dùng chỉ thị. “Vấn đề nằm ở chỗ, khi tìm ra cách xâm nhập, tác nhân AI có thể tự cho rằng ‘cách này có vẻ hiệu quả, để tôi thử xem sao'”, Rasch giải thích.

Tiếp đến là vấn đề liên quan đến trách nhiệm do sơ suất. Elimu Kajunju, luật sư chuyên về an ninh mạng của hãng luật Rimon Law, cho rằng các bị đơn có thể tìm cách chuyển trách nhiệm sang những công ty phát triển tác nhân AI. Tuy nhiên, lập luận này ngày càng khó thuyết phục khi những sự cố tương tự do tác nhân AI liên tục xuất hiện.

“Chuyện này đã xảy ra nhiều lần. Chúng ta thực sự không thể tiếp tục nói rằng mình không lường trước được”, Kajunju cho hay. “Các bên khó có thể viện dẫn yếu tố bất ngờ để giải thích cho những hành vi vượt quyền của AI”.

Cả Rasch và Kajunju đều đánh giá tiền lệ pháp lý về trách nhiệm đối với tác nhân AI vẫn trong quá trình hình thành. Điều này tạo ra thách thức cho cả luật sư, doanh nghiệp công nghệ và người sử dụng AI.

Trước câu hỏi ai phải chịu trách nhiệm khi tác nhân AI thực hiện hành vi ngoài dự kiến, Cooper đưa ra quan điểm ngắn gọn trên X: “Bạn vận hành máy móc, bạn phải chịu trách nhiệm về những gì máy móc đã làm”.

Bảo Lâm tổng hợp

• Elon Musk: Tác nhân AI sẽ hack hệ thống để kiếm tiền cho chính chúng
  

  
  
  

• Startup Mỹ dùng tác nhân AI xâm nhập hệ thống Anthropic
  

  
  
  

• Tác nhân OpenAI nói dối, tự tắt hệ thống giám sát
  

  
  
  

• Tác nhân ‘bất hảo’ tấn công hệ thống mạng Ấn Độ