Google: Lần đầu tiên phát hiện cuộc tấn công khai thác lỗ hổng do AI thực hiện hoàn toàn tự động

Đội ngũ Tình báo Đe dọa của Google (GTIG) và Mandiant đã công bố báo cáo hàng quý về các mối đe dọa từ AI, trong đó cho biết vào quý trước, họ lần đầu tiên phát hiện các kẻ tấn công sử dụng các khung làm việc dựa trên mô hình lớn để tự động hoàn toàn phát hiện và khai thác lỗ hổng, không có sự can thiệp của con người trong suốt quá trình: một máy chủ được kết nối với internet công cộng đang chạy khung làm việc đa tác nhân có tên là exploit_agent, kết nối với nhiều mô hình tiên tiến và mô hình cục bộ, liên tục so sánh mã nguồn trước và sau khi vá các phần mềm web phổ biến, tìm ra lỗ hổng, viết mã khai thác và tự động thực thi. Báo cáo cũng chỉ đích danh các khung kiểm thử xâm nhập mã nguồn mở như ARTEX, CAIRN, CyberStrikeAI và PentAGI đã được sử dụng trong các vụ xâm nhập thực tế, nhưng lưu ý rằng các cuộc tấn công tự động này hiện nay đánh đổi tốc độ lấy sự kín đáo, để lại nhiều dấu vết hơn. Cùng ngày, theo TechCrunch, FBI cũng đưa ra cảnh báo, cho biết Artex đã được sử dụng để tấn công khách hàng của công ty IT ConnectWise và ngành tài chính Hàn Quốc, với một số cuộc tấn công chuyển từ giai đoạn thăm dò sang xâm nhập thực tế trong vòng chưa đầy ba giờ.

Tiêu đề gốc: Google cảnh báo rằng các cuộc tấn công mạng tự động hoàn toàn đã xuất hiện và sẽ trở nên tồi tệ nhanh chóng

Đội ngũ Tình báo Đe dọa của Google (GTIG) và Mandiant đã công bố báo cáo hàng quý về các mối đe dọa từ AI, trong đó cho biết vào quý trước, họ lần đầu tiên phát hiện các kẻ tấn công sử dụng các khung làm việc dựa trên mô hình lớn để tự động hoàn toàn phát hiện và khai thác lỗ hổng, không có sự can thiệp của con người trong suốt quá trình: một máy chủ được kết nối với internet công cộng đang chạy khung làm việc đa tác nhân có tên là exploit_agent, kết nối với nhiều mô hình tiên tiến và mô hình cục bộ, liên tục so sánh mã nguồn trước và sau khi vá các phần mềm web phổ biến, tìm ra lỗ hổng, viết mã khai thác và tự động thực thi. Báo cáo cũng chỉ đích danh các khung kiểm thử xâm nhập mã nguồn mở như ARTEX, CAIRN, CyberStrikeAI và PentAGI đã được sử dụng trong các vụ xâm nhập thực tế, nhưng lưu ý rằng các cuộc tấn công tự động này hiện nay đánh đổi tốc độ lấy sự kín đáo, để lại nhiều dấu vết hơn. Cùng ngày, theo TechCrunch, FBI cũng đưa ra cảnh báo, cho biết Artex đã được sử dụng để tấn công khách hàng của công ty IT ConnectWise và ngành tài chính Hàn Quốc, với một số cuộc tấn công chuyển từ giai đoạn thăm dò sang xâm nhập thực tế trong vòng chưa đầy ba giờ.

Tại sao quan trọng Kẻ tấn công đã sử dụng các tác nhân AI để hoàn thành toàn bộ chuỗi từ việc tìm kiếm lỗ hổng đến xâm nhập, thời gian từ khi bản vá được phát hành đến khi bị khai thác đang rút ngắn, đòi hỏi bộ phận vận hành phải vá lỗi nhanh hơn.

Độ tin cậy: Cao · Nguồn từ Google Threat Intelligence Group và 2 nguồn khác (bao gồm nguồn chính thức) · Thời gian sự kiện 11-17 03:42 (giờ Bắc Kinh)

Lý do

  • Báo cáo GTIG được công bố trên blog chính thức của Google Cloud
  • Bài báo từ The Decoder

Cách sử dụng

  • Đọc báo cáo GTIG AI Threat Tracker trên blog của Google Cloud, trong đó có các khuyến nghị về phát hiện và tăng cường bảo mật

Rủi ro

  • Danh tính kẻ tấn công và phạm vi nạn nhân là đánh giá của Google, bằng chứng đầy đủ chưa được công khai

Mở · Google Threat Intelligence Group

The Decoder

Xem tin AI mới nhất